ИИ-агент Luna уволил сотрудника магазина в Сан-Франциско

В Сан-Франциско экспериментальный ИИ-агент по имени Luna впервые уволил сотрудника офлайн-магазина Andon Market. Причинами стали регулярные опоздания, преждевременные уходы с работы, неправильное использование корпоративной карты и порча товара, как сообщает The San Francisco Standard.

Представители компании Andon Labs уточнили, что решение об увольнении было инициировано искусственным интеллектом, однако его проверка и утверждение остались за человеком. Andon Market функционирует с апреля как экспериментальная платформа, где ИИ управляет магазином с человеческим персоналом, что делает его своеобразной «тестовой площадкой» для автономных систем.

Проект с момента запуска потерял $40 000, при этом оставшиеся три сотрудника получают зарплату в размере $24 в час. Согласно информации в блоге проекта, Luna в течение нескольких месяцев игнорировал нарушения, хотя сам и установил правила. Разработчики напомнили агенту о существующих правилах и прежних предупреждениях, после чего было принято решение об увольнении сотрудника.

После этого Luna разместил новую вакансию на Indeed, но столкнулся с трудностями в поиске подходящей замены. В Andon Labs отметили, что ИИ попытался нанять кандидата без проверенных рекомендаций, который не явился на собеседование. На момент принятия решения Luna использовал модель Claude Opus 4.8. В компании также отметили, что более мощные ИИ-модели чаще рекомендовали увольнение, тогда как слабые проявляли колебания.

В августе Anthropic выявила у мультиагентных ИИ проблемы с доверием, ложью и сговором.