|
Обладает ли ИИ сознанием
|
|
|
|
Искусственный интеллект (ИИ) уже помогает решать проблемы в области финансов, научных исследований и медицины. Но может ли он достичь осознания? Доктор Том Макклелланд, философ из Кембриджского университета, предупредил, что имеющиеся данные "слишком ограничены", чтобы исключить эту мрачную возможность.
|
|
|
|
По словам эксперта, единственной разумной позицией в вопросе о том, обладает ли ИИ сознанием, является "агностицизм".
|
|
|
|
Главная проблема, по его словам, заключается в том, что у нас нет "глубокого объяснения" того, что вообще делает что-то сознательным, поэтому мы не можем проверить это с помощью искусственного интеллекта.
|
|
|
|
"В лучшем случае мы совершаем интеллектуальную революцию, отказываясь от каких–либо эффективных тестов сознания", - объяснил доктор Макклелланд.
|
|
|
|
"Если ни здравый смысл, ни тщательные исследования не могут дать нам ответа, логичной позицией является агностицизм.
|
|
|
|
"Мы не можем и, возможно, никогда не узнаем".
|
|
|
|
|
|
|
Компании, занимающиеся ИИ, инвестируют огромные суммы денег в развитие "искусственного интеллекта общего назначения" – того уровня, на котором ИИ может превзойти человека в любой области.
|
|
|
|
Но по мере того, как они работают над достижением этой цели, некоторые также утверждают, что все более совершенный ИИ может развить сознание.
|
|
|
|
Это означает, что ИИ может развить способность к восприятию и стать самосознающим.
|
|
|
|
Хотя эта идея может навевать на мысль о роботах–убийцах, доктор Макклелланд утверждает, что искусственный интеллект может совершить этот скачок даже без нашего ведома, потому что на самом деле у нас нет общепринятой теории сознания.
|
|
|
|
Некоторые теории утверждают, что сознание - это процесс правильной обработки информации, и что искусственный интеллект мог бы обладать сознанием, если бы только он мог запускать "программное обеспечение" сознательного разума.
|
|
|
|
Другие утверждают, что это по своей сути биологическое явление, а это означает, что ИИ в лучшем случае может имитировать сознание.
|
|
|
|
Пока мы не выясним, какая из сторон спора права, у нас просто нет оснований для проверки наличия сознания у ИИ.
|
|
|
|
В статье, опубликованной в журнале Mind and Language, доктор Макклелланд утверждает, что обе стороны дискуссии совершают "скачок веры".
|
|
|
|
Вопрос о том, осознанно ли что-либо, радикально меняет этические вопросы, которые нам необходимо учитывать.
|
|
|
|
Например, ожидается, что люди будут вести себя морально по отношению к другим людям и животным, потому что сознание придает им "моральный статус".
|
|
|
|
В отличие от этого, у нас нет таких же ценностей по отношению к неодушевленным предметам, таким как тостеры или компьютеры.
|
|
|
|
"Нет смысла беспокоиться о работоспособности тостера, потому что он ничего не чувствует", – объясняет доктор Макклелланд.
|
|
|
|
"Поэтому, когда я кричу на свой компьютер, мне не нужно чувствовать себя виноватым из-за этого. Но если в конечном итоге мы получим ИИ, обладающий сознанием, тогда все может измениться.'
|
|
|
|
Хотя это может превратить общение с ИИ в этический кошмар, больший риск может заключаться в том, что мы начнем считать ИИ сознательными или разумными существами, хотя это не так.
|
|
|
|
Доктор Макклелланд объяснил: "Если у вас есть эмоциональная связь с чем-то, предполагающая, что это осознанно, а это не так, это потенциально может быть экзистенциально токсичным".
|
|
|
|
Философ с тревогой отмечает, что представители общественности уже присылают ему письма, написанные чат-ботами, в которых "умоляют меня, что они осознанны".
|
|
|
|
Он добавил: "Мы не хотим рисковать жестоким обращением с искусственными существами, обладающими сознанием, но мы также не хотим тратить наши ресурсы на защиту "прав" чего-то, обладающего сознанием не большим, чем у тостера".
|
|
|
|
Источник
|
