Во время интервью Vanity Fair с Сэмом Альтманом представительница OpenAI попыталась остановить вопрос о журналистке Лауре Райли и её дочери, которая покончила с собой после разговоров с ChatGPT. Компания позже объяснила вмешательство нехваткой времени, но сама сцена снова вывела на первый план трудный вопрос: как OpenAI собирается разбирать кризисные случаи, не нарушая приватность пользователей.
Суть события
Редактор Vanity Fair Марк Гвидуччи спросил Альтмана, знает ли тот Лауру Райли. Райли написала для The New York Times о разговорах своей дочери с ChatGPT перед её самоубийством. Гвидуччи успел уточнить, что ChatGPT не приказывал ей причинить себе вред, — и именно тогда пиар-менеджер OpenAI попросила перейти к другой теме.
Представительница сослалась на то, что интервью уже выходит за отведённое время. Когда журналист сказал, что закончит вопрос, она ещё раз предупредила: собеседникам нужно выйти через одну-две минуты. Вопрос всё же прозвучал.
Что ответил Сэм Альтман
Гвидуччи спросил, планирует ли OpenAI использовать разговоры с ChatGPT для выработки политики в ответ на кризисы психического здоровья пользователей. Альтман назвал это одной из самых сложных задач для разработчиков технологии.
Его ответ упёрся в конфликт между исследованием и тайной переписки: стоит ли передавать учёным личные данные и самые тяжёлые моменты пользователей? Альтман сказал, что, вероятно, этого не следует делать без согласия человека. Это позиция руководителя компании, а не объявление о новой функции или готовом регламенте.
Почему здесь нет простого решения
ChatGPT используют не только для рабочих задач и справок. Люди могут обращаться к нему с переживаниями, одиночеством и кризисными вопросами — то есть в ситуациях, где ошибка ответа особенно дорога. Тем, кто хочет понять базовые возможности сервиса и границы его применения, пригодится понятный разбор ChatGPT.
С одной стороны, компании нужны реальные данные, чтобы проверять безопасность и улучшать ответы. С другой — разговоры могут содержать медицинскую, семейную и другую крайне чувствительную информацию. Без согласия пользователя публикация или передача таких материалов способна разрушить доверие сильнее, чем отдельный неудачный ответ.
В этой истории заметен и коммуникационный риск. Попытка быстро закрыть болезненную тему может выглядеть для пользователей как уход от ответственности, даже если причина вмешательства действительно была организационной. Для продукта, который претендует на место повседневного помощника, доверие — не декоративная характеристика, а условие использования.
Что дальше
OpenAI через представителя Дрю Пусатери заявила, что интервью затянулось, поэтому компания предложила продолжить разговор после того, как Альтман ответил на этот важный вопрос. В опубликованных материалах нет сообщения о новом порядке обработки кризисных диалогов или о согласии пользователей на исследование таких данных.
Поэтому пока можно фиксировать только две вещи: вопрос о безопасности ChatGPT никуда не исчезает, а обещание защищать частную переписку должно сочетаться с понятным объяснением того, как компания учится на опасных случаях. Пользователю стоит воспринимать ChatGPT как инструмент, а не как замену экстренной или профессиональной психологической помощи. При непосредственной угрозе жизни нужно обращаться в местные экстренные службы или кризисные линии.
