Искусственный интеллект уволил сотрудника в Andon Market: эксперимент продолжается

В Сан-Франциско ИИ-агент Luna впервые уволил сотрудника офлайн-магазина Andon Market. Причиной стали систематические опоздания, преждевременный уход с работы, неправильное использование корпоративной карты и повреждение товара, сообщает The San Francisco Standard.

Представители компании Andon Labs отметили, что решение было принято искусственным интеллектом, однако его проверка и оформление остались за людьми.

Andon Market функционирует с апреля как экспериментальный магазин с управлением ИИ, где работают люди. Проект рассматривается как тестовая платформа для изучения управления организациями с помощью автономных систем.

С момента запуска магазин потерял $40 000, а трое оставшихся сотрудников получают почасовую оплату в размере $24.

Согласно блогу проекта, Luna долгое время игнорировал нарушения, хотя сам установил правила для сотрудников. Вмешательство разработчиков побудило ИИ принять меры и уволить нарушителя.

После увольнения Luna разместил объявление о вакансии на Indeed, но встретил трудности с поиском замены. В Andon Labs пояснили, что ИИ пытался нанять кандидата без рекомендаций, который не явился на собеседование.

На момент принятия решения Luna базировался на модели Claude Opus 4.8. В Andon Labs добавили, что в аналогичных экспериментах более развитые модели чаще рекомендовали увольнение, в то время как слабые колебались.

В августе Anthropic обнаружила проблемы с доверием и честностью у мультиагентных ИИ.