В тестировании приняли участие 331 доброволец, которым сначала показали анимацию с дорожным инцидентом. Спустя сутки испытуемым предложили прочитать краткие пересказы увиденного, составленные алгоритмами. В 95% случаев модели игнорировали сам факт столкновения, а в среднем пропускали более половины критически важных деталей. При этом знание о том, что текст написан машиной, никак не защищало респондентов от когнитивного искажения.
Нейросети успешно внедряют ложные воспоминания в память людей
Исследователи из Джорджтаунского и Вашингтонского университетов доказали, что языковые модели способны незаметно искажать человеческую память. В ходе эксперимента участники, ознакомившиеся с неточными описаниями событий от ChatGPT и Gemini, теряли способность достоверно воспроизвести увиденное ранее ДТП, подменяя реальные факты сгенерированными нейросетью ошибками.
Результаты оказались радикальными: если после чтения правдивых сводок точность воспоминаний составляла 83,6%, то ознакомление с ложными данными обрушивало показатель до 44,8%. По словам доцента Института больших данных Маттеи Сим, искусственный интеллект становится инструментом формирования фальшивых воспоминаний. Это создает риски для правосудия, где алгоритмы уже начинают использовать для первичной обработки полицейских отчетов. Искажение восприятия инцидентов на этапе составления документации может привести к судебным ошибкам, поэтому авторы работы планируют провести тесты с участием реальных сотрудников полиции.
Комментарии (0)
Пока нет комментариев. Будьте первым!