|
Как в век ИИ отличить реальность от фейка
|
|
|
|
Оказывается, поп-звезды Drake и The Weeknd не вдруг выпустили новый трек, который стал вирусным на TikTok и YouTube в апреле 2023 года. Фотография, выигравшая международный фотоконкурс в том же месяце, не была настоящей фотографией. А изображение Папы Франциска в куртке Balenciaga, появившееся в марте 2023 года? Это тоже был фейк. Все они были созданы с помощью генеративного ИИ, новой технологии, которая может генерировать человекоподобный текст, аудио и изображения по запросу с помощью таких программ, как ChatGPT, Midjourney и Bard, среди прочих. Безусловно, есть что-то тревожное в легкости, с которой люди могут быть обмануты этими подделками, и я вижу в этом предвестник кризиса подлинности, который поднимает некоторые сложные вопросы.
|
|
|
Как избиратели узнают, было ли видео политического кандидата, говорящего что-то оскорбительное, реальным или созданным ИИ? Захотят ли люди платить художникам за их работу, когда ИИ может создавать что-то визуально ошеломляющее? Зачем подписываться на определенных авторов, когда истории в их стиле письма будут свободно распространяться в Интернете? Я видел, как тревога разыгрывается вокруг меня в Стэнфордском университете, где я профессор, а также возглавляю большую инициативу в области генеративного искусственного интеллекта и образования. Поскольку текст, изображения, аудио и видео становится проще создавать с помощью новых генеративных инструментов искусственного интеллекта, я считаю, что людям потребуется пересмотреть и перекалибровать то, как в первую очередь оценивается подлинность. К счастью, социальные науки предлагают некоторые рекомендации.
|
|
|
|
Многоликость подлинности
|
|
|
|
Задолго до того, как генеративный ИИ и ChatGPT вышли на первый план, люди исследовали, что заставляет что-то чувствовать себя подлинным. Когда агент по недвижимости расхваливает недвижимость, которую пытается вам продать, искренен ли он или просто пытается заключить сделку? Этот стильный знакомый носит настоящую дизайнерскую одежду или массовую подделку? Когда вы взрослеете, как вы открываете свое подлинное «я»? Это не просто философские упражнения. Исследования в области неврологии показали, что вера в то, что произведение искусства является подлинным, активирует центры вознаграждения мозга так, как это не происходит при просмотре того, что вам сказали, что это подделка. Подлинность также имеет значение, потому что это социальный клей, укрепляющий доверие. Возьмем кризис дезинформации в социальных сетях, когда фальшивые новости распространялись непреднамеренно, а подлинные новости объявлялись фальшивыми. Короче говоря, подлинность важна как для отдельных людей, так и для общества в целом.
|
|
|
|
Но что на самом деле быть подлинным?
|
|
|
|
Психолог Джордж Ньюман исследовал этот вопрос в серии исследований. Он обнаружил, что есть три основных аспекта подлинности. Одним из них является историческая достоверность, или действительно ли объект относится к тому времени, месту и человеку, которым кто-то утверждает, что он принадлежит. Настоящая картина Рембрандта будет иметь историческую достоверность; современная подделка не будет. Второе измерение аутентичности проявляется, когда, скажем, в ресторане в Японии предлагают исключительную и настоящую неаполитанскую пиццу. Их пицца не производилась в Неаполе и не привозилась из Италии. В жилах шеф-повара, который его приготовил, может не быть ни капли итальянской крови. Но ингредиенты, внешний вид и вкус могут очень хорошо соответствовать тому, что туристы ожидают найти в отличном ресторане в Неаполе. Ньюман называет это категорической достоверностью.
|
|
|
|
И, наконец, подлинность, которая исходит из наших ценностей и убеждений. Это то, чего многие избиратели не видят в политиках и избранных лидерах, которые говорят одно, а делают другое. Это то, что сотрудники приемной комиссии ищут в эссе колледжа. В моем собственном исследовании я также увидел, что подлинность может быть связана с нашими ожиданиями относительно того, какие инструменты и действия задействованы в создании вещей. Например, когда вы видите изготовленную на заказ мебель, которая утверждается, что она сделана вручную, вы, вероятно, предполагаете, что она не была сделана буквально вручную — тем не менее, для вырезания, придания формы и крепления каждой детали использовались всевозможные современные инструменты. Точно так же, если архитектор использует компьютерное программное обеспечение для составления планов зданий, вы, вероятно, по-прежнему считаете этот продукт законным и оригинальным. Это потому, что существует общее понимание того, что эти инструменты являются частью того, что требуется для создания этих продуктов. В большинстве своих быстрых суждений о подлинности вы мало думаете об этих измерениях. Но с генеративным ИИ вам это нужно. Это потому, что в те времена, когда создание оригинального нового контента занимало много времени, существовало общее предположение, что для его создания требовалось умение — что его могли создать только опытные люди, приложившие много усилий и действовавшие с максимальной отдачей. намерения. Это уже не безопасные предположения.
|
|
|
|
Как справиться с надвигающимся кризисом подлинности
|
|
|
|
Генеративный ИИ процветает, используя зависимость людей от категорической достоверности, создавая материал, который выглядит как «настоящая вещь». Так что будет важно распутать историческую и категориальную достоверность в вашем собственном мышлении. Просто потому, что запись звучит точно так же, как Дрейк, то есть она соответствует ожиданиям категории музыки Дрейка, это не означает, что Дрейк действительно записал ее. Великолепное эссе, которое было сдано для задания на уроке письма в колледже, на самом деле может быть написано не студентом, часами работающим над составлением предложений в текстовом процессоре. Если он выглядит как утка, ходит как утка и крякает как утка, все должны учитывать, что на самом деле он не мог вылупиться из яйца.
|
|
|
|
Кроме того, всем будет важно быстро узнать, что эти новые инструменты генеративного ИИ действительно могут и не могут делать. Я думаю, что это будет включать в себя обеспечение того, чтобы люди узнавали об ИИ в школах и на рабочем месте, а также открытый разговор о том, как творческие процессы изменятся с появлением ИИ. Написание сочинений для школы в будущем не обязательно будет означать, что учащиеся должны будут тщательно составлять каждое предложение; теперь есть инструменты, которые могут помочь им придумать, как сформулировать свои идеи. А для создания потрясающего изображения не потребуется исключительной зрительно-моторной координации или владения Adobe Photoshop и Adobe Illustrator. Наконец, в мире, где ИИ работает как инструмент, обществу придется задуматься о том, как установить барьеры. Они могут принимать форму правил или создания норм в определенных областях для раскрытия информации о том, как и когда использовался ИИ.
|
|
|
|
Признается ли ИИ соавтором при написании? Запрещено ли это для определенных типов документов или для определенных классов в школе? Требуется ли для участия в конкурсе произведение искусства с подписанным заявлением о том, что художник не использовал ИИ для создания своего произведения? Или нужны новые, отдельные конкурсы, специально приглашающие к работе, созданной ИИ? Эти вопросы каверзные. Может возникнуть соблазн просто считать генеративный ИИ неприемлемой помощью, точно так же, как калькуляторы запрещены на некоторых математических занятиях. Однако изоляция новых технологий рискует наложить произвольные ограничения на творческий потенциал человека. Была бы выразительная сила изображений такой, какая она есть сейчас, если бы фотография считалась недобросовестным использованием технологий? Что, если бы фильмы Pixar были признаны не имеющими права на получение премии «Оскар», потому что люди думали, что компьютерные инструменты анимации подрывают их подлинность? Возможности генеративного ИИ многих удивили и заставят всех думать иначе. Но я верю, что люди могут использовать ИИ, чтобы расширить границы возможного и создавать интересные, достойные — и, да, аутентичные — произведения искусства, письма и дизайна.
|
|
|
|
Источник
|
