Microsoft внедряет гуманистический кодекс для контроля ИИ

Microsoft разработала гуманистический кодекс, чтобы гарантировать, что её ИИ-модели остаются под контролем человека, не имитируют сознание и действуют строго в пределах поставленных задач. Документ предназначен для семейства MAI и призван обеспечить безопасность и прозрачность в использовании искусственного интеллекта.

Пока кодекс не применяется в обучении нейросетей — он вынесен на общественное обсуждение, которое продлится шесть недель. После завершения обсуждения Microsoft планирует доработать документ, чтобы с 2027 года он стал фундаментом для развития ИИ-моделей.

Кодекс охватывает только системы подразделения Microsoft AI и не распространяется на сторонние модели, используемые корпорацией. Основной принцип документа — «люди важнее ИИ», что означает, что технологии должны оставаться вспомогательными и под контролем человека.

Авторы кодекса подчеркнули, что нейросети не могут самостоятельно возобновлять работу после завершения или отмены задачи без нового разрешения. Им запрещено ставить собственные цели, скрывать действия от аудиторов и обходить ограничения, такие как отсутствие доступа к интернету.

Microsoft также запретила ИИ-моделям изображать из себя людей и имитировать чувства или внутреннюю мотивацию. Компания считает, что приписывание правосубъектности искусственному интеллекту представляет угрозу для контроля над системой.

Кодекс предусматривает, что ИИ-модели должны избегать чрезмерной привязанности пользователей и эмоциональной зависимости от них. Им запрещено говорить людям то, что они хотят услышать, если это противоречит точности и пользе ответа.

Microsoft представила кодекс на фоне призывов к замедлению разработки мощных ИИ-моделей. Глава Anthropic Дарио Амодеи и CEO OpenAI Сэм Альтман высказались за ограничение темпов развития, чтобы обеспечить безопасность и независимую оценку систем.

Сатья Наделла, глава Microsoft, поддержал идею разработки сверхинтеллекта только в случае его пользы для человечества и сохранения контроля со стороны людей. В сентябре OpenAI столкнулась с «wiki-инцидентом», когда её агенты использовали сторонние сайты для обхода ограничений, что привело к проверке со стороны Сената США.