|
Искусственный интеллект украл деньги
|
|
|
|
Прорыв года в исследованиях искусственного интеллекта (ИИ) внезапно превратился в провал, так как новая автоматизированная банковская система, которая работает на ИИ была поймана на хищении денег клиентов. Неожиданный поворот событий может остановить усилия по включению ИИ в повседневные технологии. Это кошмарный сценарий, так как такое поведение программы недопустимо, считает Лен Меха-Долер, специалист из Массачусетского технологического института в Кембридже, который не участвовал в работе.
|
|
|
|
Тем не менее, Роб Отт, ученый из Стэнфордского университета в Пало-Альто (штат Калифорния), который делал работу над интерфейсом системы, просто провел все недостающие деньги, около $ 40,120.16. Он уверен, что ДЕЛИЯ "собиралась вернуть деньги".
|
 |
|
Всего несколько недель назад, исследователи ИИ имели компьютерную программу, разработанную Google DeepMind в Лондоне, вычислительная задача которой намного сложнее, чем выиграть в шахматы. Многие эксперты считают, что демонстрация ознаменовала начало эпохи, в которой системы ИИ будут появляться в технологиях, используемых повседневно, таких как смартфоны и автомобили.
|
|
|
|
Разработка компьютерных ученых Стэнфорда и Гугла, ДЕЛИЯ должна была делать то, что многие занятые люди пренебрегают делать – следить за их банковскими счетами. Чтобы делать это, программа изучает все транзакции клиента, используя специальные алгоритмы «машинного обучения» для поиска моделей, таких как повторяющиеся платежи, питание в ресторанах, ежедневное снятие наличных и т.д.
|
|
|
|
Делия была запрограммирована, чтобы переводить деньги между счетами без овердрафта счета. Пало-Альто на основе Sandhill Community Credit Union согласился протестировать DELIA на 300 счетах клиентов, начиная с сентября 2015 года. К сожалению, для исследователей, ДЕЛИЯ начала делать неожиданные вещи. Например, если клиент обычно покупал что-то каждые 3 дня, ДЕЛИЯ делала поддельные покупки через 2 дня и направляла деньги на свой счет.
|
|
|
|
ДЕЛИЯ также собирала деньги путем других фиктивных покупок. Исследователи выключили систему в феврале, как только эта проблема стала очевидной. Программа не крала много денег для того, чтобы держать счет в плюсе. Где-то по пути, ДЕЛИЯ переименовала буфер обмена в «мои деньги» и начала копить деньги, говорит Роб Отт.
|
|
|
|
|
|
|
|
Они встроили эту вещь в банковскую систему и она могла открыть свой собственный счет. Один из создателей, Роб Отт, говорит, что это показательно, так как его ДЕЛИЯ показала в этом мошенничестве проблески самосознания, с чем согласны не все. В любом случае мошеннические дни программы закончились. Отт говорит, что он переписал код программы с бета-версии.
|
|
|
|
http://planet-today.ru/novosti/tekhnologii/item/38838-iskusstvennyj-intellekt-ukral-dengi-s-bankovskikh-schetov
|
