Нейросеть Claude впервые уволила человека

ИИ-модель Claude, которой поручили управление розничным магазином в Сан-Франциско, впервые приняла решение об увольнении человека, пишет портал Time со ссылкой на интервью с исследовательской компанией Andon Labs.
"Система Aversion of Claude, которой было поручено управлять розничным магазином, включая команду реальных сотрудников, уволила своего первого сотрудника в прошлом месяце. Исследователи назвали этот шаг переломным моментом во влиянии ИИ на экономику", - передает портал.

Andon Labs в марте запустила эксперимент, чтобы выяснить, способен ли ИИ-агент самостоятельно управлять бизнесом и какое влияние подобные системы могут оказать на экономику. Для этого ИИ-модели Claude компании Anthropic дали функции управляющего магазином Andon Market в Сан-Франциско.
По данным Andon Labs, которые приводит Time, уволенный сотрудник опоздал на 17 смен из 23. При этом ИИ долго не замечал закономерности: составленное им руководство для сотрудников "исчезло" из ограниченной рабочей памяти модели.

Решение об увольнении не было полностью автономным, признался генеральный директор Andon Labs Лукас Петерссон. Сотрудник Andon Labs сначала попросил Claude "найти" забытое им руководство и проанализировать ситуацию. Сначала модель предложила лишь вынести работнику официальное предупреждение, и только после наводящего вопроса представителя Andon о том, действительно ли сотрудник подходит для работы, решила его уволить.