Как минимум 10 сотрудников покинули ведущие компании по разработке ИИ из‑за опасений по поводу технологии, выяснило издание Axios. Среди ушедших — несколько топ-менеджеров.
Журналисты отметили, что многие создатели ИИ оценивают вероятность уничтожения человечества как высокую. Этот вопрос якобы даже стал привычной темой для споров среди сотрудников Google, OpenAI и Meta*.
Axios пишет, что основатель чат-бота Grok Илон Маск оценивает вероятность уничтожения человечества искусственным интеллектом в 20%, а генеральный директор Anthropic Дарио Амодеи говорит о 10–25%. «Создатели ИИ признают, что не знают наверняка, как он на самом деле работает, и видят вероятность того, что он уничтожит наш вид, как 1:10, может быть, 1:5. Вы бы сели в самолет при таких шансах? Вы бы построили самолет и пустили бы других при таких шансах?» — задались вопросом сооснователи Axios Джим Вандехей и Майкл Аллен.
Сооснователь Google Сергей Брин уверен, что угрозы физическим насилием повышают эффективность взаимодействия с ИИ. «Все модели, не только наши, работают лучше, если им угрожать. Например, сказать: „Я похищу тебя, если не сделаешь то, то и то“. Но в сообществе об этом не говорят — это выглядит странно и неловко, поэтому тему не афишируют», — пояснил он.
* Meta признана в России экстремистской организацией, ее деятельность в стране запрещена.