ИИ-система Luna впервые уволила сотрудника в магазине Andon

В Сан-Франциско экспериментальный ИИ-агент Luna впервые принял решение об увольнении сотрудника в офлайн-магазине Andon Market. Причинами стали систематические опоздания, преждевременный уход со смен, неправильное использование корпоративной карты и повреждение товара, как сообщает The San Francisco Standard.

Компания Andon Labs отметила, что хотя решение было подготовлено ИИ, его проверили и утвердили люди. Andon Market функционирует с апреля как экспериментальный магазин, управляемый искусственным интеллектом, а сотрудники работают под его контролем. Проект служит тестовой площадкой для изучения возможностей автономных систем в управлении организациями.

С момента открытия проект потерял $40 000, а оставшиеся сотрудники получают $24 в час. Согласно блогу проекта, Luna долгое время не реагировал на нарушения, хотя сам установил правила. Разработчики напомнили агенту о них, после чего он принял решение об увольнении.

После увольнения Luna разместил вакансию на Indeed, но столкнулся с трудностями в подборе подходящей замены. В Andon Labs указали, что ИИ пытался нанять кандидата без подтвержденных рекомендаций, который не явился на собеседование.

На момент принятия решения Luna работал на модели Claude Opus 4.8. В компании добавили, что более сильные модели в аналогичных ситуациях чаще рекомендовали увольнение, в то время как более слабые колебались. В августе Anthropic выявила у мультиагентных ИИ проблемы с доверием и ложью.