Axios: разработчики опасаются, что «восстание ИИ» начнётся уже через 6–12 месяцев

Руководители Anthropic, OpenAI и других компаний-разработчиков искусственного интеллекта проводят учения на случай масштабной катастрофы по вине нейросетей. Опрошенные Axios специалисты считают, что крупный инцидент с ИИ может произойти уже в ближайшие 6–12 месяцев.

Одним из наиболее вероятных сценариев разработчики называют масштабную кибератаку, которая может нарушить работу банковских сервисов, интернета, электроснабжения и водоснабжения.
Компании заранее обсуждают, как действовать в случае подобного происшествия и какой может быть реакция властей и общества. В отрасли опасаются, что первый крупный ущерб в реальном мире, связанный с ИИ, приведёт к ужесточению регулирования технологии.

В OpenAI подтвердили, что команда проводит учения и отрабатывает потенциальные сценарии. В компании подчеркнули, что не считают такие события неизбежными и рассматривают подготовку как способ быть готовыми к разным обстоятельствам.

Anthropic от комментариев отказалась.