Компания xAI, разрабатывающая технологии искусственого интеллекта по инициативу бизнесмена Илона Маска, случайно слила в сети стенограммы более 370 тыс. диалогов между пользователями и чат-ботом Grok. Об этом сообщил Forbes.
По словам издания, разговоры были опубликованы «во многих случаях без ведома или разрешения» пользователей. Это произошло из‑за уязвимости кнопки «Поделиться» в сервисе: она создает уникальный URL-адрес, который позволяет поделиться беседой, но также делает ее доступной для поисковых систем, таких как Google.
В Google на сегодняшний день можно найти тысячи диалогов, охватываюших широкий спектр тем. В некоторых беседах пользователи придумывают твиты и решают простые бизнес-задачи, в других же пытаются взломать криптовалютный кошелек и создают изображения вымышленного теракта.
В разговорах с Grok люди обсуждали интимные вопросы, касающиеся медицины и психологии. Некоторые пользователи даже разрывали свое имя и другие личные данные. Через страницы в сети злоумышленники могли получить доступ к изображениям, электронным таблицам и текстам, которыми люди делились с Grok.
Одной из жертв «слива» оказался журналист Эндрю Клиффорд, который использовал чат-бот для написания текстов для сайта Sentinel Current. Он перестал пользоваться Grok и теперь предпочитает ему нейросеть Gemini.
СМИ отметило, что не все разговоры с Grok были безобидными. Хотя компания запрещает использование чат-бота для разработки оружия, чат-бот все же предоставлял пользователям инструкцию по изготовлению наркотиков, вредоносного программного обеспечения и даже бомбы. Он также рассказывал о способах суицида.
С помощью функции «поделиться» незаконные инструкции затем публиковались на сайте Grok и индексировались Google. xAI пока никак не отреагировала на «слив» данных и содержание бесед.
xAI — не единственный стартап в области искусственного интеллекта, опубликовавший переписку пользователей со своими чат-ботами. Ранее в этом месяце пользователи ChatGPT от OpenAI были встревожены, обнаружив, что их переписки появляются в результатах поиска Google, хотя сами пользователи решили сделать эти переписки «доступными для обнаружения». Вскоре OpenAI закрыла такую возможность.