|
Эксперты предупреждают, что ИИ сгорит
|
|
|
|
Эксперты предупреждают, что ИИ сгорит, как Гинденбург, в безумной спешке по внедрению новой технологии. Майкл Вулдридж, профессор искусственного интеллекта Оксфордского университета, предупредил, что фирмы слишком быстро осваивают новые технологии. Он опасается, что все пойдет наперекосяк, поскольку переопределить протоколы безопасности искусственного интеллекта очень просто, и предупреждает о катастрофе в стиле Гинденбурга.
|
|
|
|
6 мая 1937 года 804-футовый дирижабль, наполненный водородом, предназначенный для роскошных трансатлантических путешествий, загорелся, в результате чего погибли 36 членов экипажа, пассажиров и наземного персонала.
|
|
|
|
Мистер Вулдридж сказал: "У вас есть технология, которая очень, очень многообещающая, но не так тщательно протестирована, как хотелось бы. И коммерческое давление, стоящее за ней, невыносимо".
|
|
|
|
Он добавил: "Катастрофа "Гинденбурга" подорвала мировой интерес к дирижаблям. С того момента это была мертвая технология, и подобный момент представляет реальную опасность для искусственного интеллекта".
|
|
|
|
Поскольку искусственный интеллект встроен в очень многие системы, крупный инцидент может произойти практически в любом секторе.
|
|
|
|
Вулдридж представляет себе такие сценарии, как смертельно опасное обновление программного обеспечения для самоуправляемых автомобилей, взлом с помощью ИИ, который привел к краху глобальных авиакомпаний, или крах крупной компании в стиле банка Barings, спровоцированный глупыми действиями ИИ.
|
|
|
|
|
|
|
"Это очень, очень правдоподобные сценарии", - сказал он. "Существует множество способов, которыми искусственный интеллект может публично пойти не так".
|
|
|
|
Несмотря на опасения, Вулдридж заявил, что не намерен нападать на современный ИИ. Его отправной точкой является разрыв между ожиданиями исследователей и тем, что уже произошло.
|
|
|
|
Многие эксперты ожидали, что ИИ будет вычислять решения проблем и предоставлять обоснованные и полные ответы.
|
|
|
|
"Современный искусственный интеллект не является ни надежным, ни совершенным: он очень, очень приблизителен", - сказал он.
|
|
|
|
Источник
|
