|
Влияет ли ИИ на принятие решений
|
|
|
|
Об искусственном интеллекте часто говорят, подразумевая простую меру предосторожности: держать человека в контуре. Но что происходит, когда ИИ уже формирует информацию, варианты и рекомендации, на основе которых принимается решение?
|
|
|
|
Этот вопрос стал предметом нового исследования Лориен Джордан, доцента педагогического колледжа Университета Сан-Франциско. В недавно опубликованной статье Джордан анализирует недавние споры между крупными компаниями, занимающимися разработкой ИИ, и Министерством обороны США, ставя под сомнение идею о том, что этические вопросы, связанные с ИИ, можно свести к выбору одной компании или платформы вместо другой. Исследование опубликовано в журнале Qualitative Inquiry.
|
|
|
|
Спор между компанией Anthropic и Министерством обороны США о том, как можно использовать ее ИИ, иллюстрирует следующий вопрос: даже если окончательное решение принимает человек, что происходит, когда ИИ уже сформировал информацию, на которой оно основано? В своем исследовании Джордан рассматривает более широкие системы, связывающие технологии ИИ с университетами, издательствами и исследовательскими центрами.
|
|
|
|
"Одна из вещей, которая меня удивила и которую я продолжу исследовать, - это то, что мы всегда говорим, что нам нужен человек в курсе событий, когда мы используем искусственный интеллект, но поскольку мы так быстро и масштабно масштабируем решения, что значит нести ответственность за последующие решения, если информация доходит до нас? исследователь уже сформировался под влиянием систем, лежащих в основе инструмента искусственного интеллекта?"
|
|
|
|
|
|
|
В ее исследовании рассматриваются более крупные системы, стоящие за инструментами ИИ, и их "наследие" — платформы, такие как ChatGPT и Claude, основаны на моделях frontier large language и основаны на совместных исследованиях и методах.
|
|
|
|
"Я думаю, что осведомленность является важным аспектом ИИ", - сказала она. "Многие спорят о том, кажется ли одна компания более "ответственной", чем другая, но часто упускают из виду более широкую инфраструктуру, которая объединяет эти технологии".
|
|
|
|
Вопрос выходит за рамки научных исследований, поскольку искусственный интеллект все чаще используется для содействия принятию решений в самых разных областях - от здравоохранения и образования до бизнеса и национальной безопасности.
|
|
|
|
Для качественных исследователей, таких как Джордан, полученные результаты требуют большей осведомленности о системах, в которые уже встроены исследования и использование ИИ. Для дальнейшего изучения этих концепций она разрабатывает новое исследование для анализа выбора, который исследователи делают с ИИ, что позволит участникам увидеть, как ИИ интерпретирует их слова в режиме реального времени.
|
|
|
|
Работа Джордана вносит вклад в растущий объем исследований, посвященных этическим аспектам применения искусственного интеллекта, а также более масштабных систем и взаимосвязей, которые делают возможным использование этих технологий.
|
|
|
|
Источник
|
