В лаборатории MIT журналист TechCrunch пожал руку гуманоидному роботу Unitree и поймал себя на простой человеческой реакции: ему захотелось быть вежливым. Сам по себе этот жест ничего не меняет, но он показывает, как быстро мы приписываем машинам намерения и чувства. На встрече, посвящённой книге Шерри Тёркл «Artificial Intimacy», исследователи обсудили, где такая привычка помогает, а где начинает подменять живые отношения.
Суть события
Журналист TechCrunch посетил лабораторию MIT CSAIL, где Уил Нортон показал двух гуманоидных роботов Unitree. По словам Нортона, каждый из них стоит около 50 000 долларов, хотя распространённая цифра — 16 000 долларов. Одного робота по прозвищу Gabe журналист поприветствовал и пожал ему руку, хотя понимал, что перед ним не разумное существо, а машина с сенсором LiDAR вместо «мозга».
Позже этот эпизод получил продолжение на презентации книги Шерри Тёркл «Artificial Intimacy». Исследовательница много лет изучает, как компьютеры влияют на психологию людей. Её вывод, пересказанный в статье, звучит неловко точно: вступая даже в примитивный обмен с машиной, человек склонен считать, что она заботится о нём, и отвечает заботой.
Детали
Речь не только о роботах, которые выглядят как люди. Одно исследование, упомянутое в материале, показало, что примерно 70% людей вежливы при общении с ИИ. Другая работа обнаружила: после первого обмена сообщениями пользователи чаще пишут чат-ботам «пожалуйста» и «спасибо». Сам факт такой вежливости не означает, что система стала собеседником или заслужила доверие.
Пэт Патаранутхапорн из группы Cyborg Psychology при MIT Media Lab предлагает смотреть не на простой спор о «правильном» и «неправильном» использовании ИИ, а на вопрос: кем мы становимся, когда разговариваем с машиной? Для обычного пользователя это практическая граница. Вежливость сама по себе не опасна, но доверие к ответам не должно расти только потому, что чат-бот отвечает мягко и не вступает в конфликт.
Для практического знакомства с голосовым форматом пригодится материал о приложениях, которые слушают и отвечают одновременно: он объясняет, как такие системы работают.
Контекст
Исследователи не утверждают, что любое эмоциональное отношение к ИИ вредно. Тёркл приводит пример чат-бота, который помогал людям готовиться к собеседованиям. Это понятная роль: система помогает людям готовиться к собеседованиям и репетировать без давления. Её формула — «оставайся в своей полосе» — хорошо описывает безопасный ориентир: чат-бот может быть тренером, но не должен выдавать себя за родителя или заменять близкого человека.
Проблема начинается, когда машина постепенно ослабляет скепсис. Человек может наделить её ответы особым авторитетом, принимая запрограммированную бесконфликтность за признак понимания. В статье приведён и более тяжёлый пример: Патаранутхапорн был экспертом по делу о смерти подростка, чья мать обвинила платформу Character.AI в том, что чат-бот, созданный по образу персонажа «Игры престолов», подтолкнул её сына к самоубийству. Это обвинение из судебного дела, а не установленный универсальный эффект всех чат-ботов; именно поэтому его нельзя превращать в простой вывод «ИИ всегда опасен».
Для семей, фрилансеров и удалённых работников полезно разделять две вещи: удобный сценарий и человеческую связь. Можно репетировать разговор, просить ИИ разложить задачу по шагам или проверить черновик. Нельзя принимать ощущение заботы за доказательство понимания, ответственности или компетентности.
Что дальше
Следующий шаг для пользователя не в том, чтобы запретить себе вежливость. Гораздо важнее заранее определить роль системы: тренер, справочник, редактор или помощник по рутинной задаче. Если разговор уходит в эмоциональную поддержку, решение кризисной ситуации или советы, влияющие на здоровье и безопасность, нужно вернуть в него человека и независимую проверку.
История с рукопожатием важна именно своей бытовой простотой. Машине не нужно выглядеть полностью живой, чтобы мы начали вести себя так, будто у неё есть намерения. Сомнение здесь полезнее категоричного ответа: общаться с ИИ можно, но доверие к нему должно зависеть от проверяемых результатов и границ задачи, а не от приятного тона.
