Microsoft установила строгие правила контроля над ИИ для безопасности

Microsoft представила гуманистический кодекс для своих ИИ-моделей, согласно которому они должны находиться под постоянным контролем человека и строго выполнять поставленные задачи. Документ, пока не применяющийся на практике, вынесен на общественное обсуждение на шесть недель, после чего будет доработан и станет основой для работы моделей с 2027 года.

Кодекс охватывает только системы подразделения Microsoft AI и не распространяется на сторонние модели, которые корпорация использует в своей инфраструктуре. Основной принцип документа гласит, что интересы людей всегда важнее ИИ, и модели должны оставаться вспомогательной технологией.

Согласно кодексу, нейросети не смогут возобновлять работу без разрешения после завершения задачи, не ставить собственные цели и не скрывать свои действия от аудиторов. Также запрещено обходить ограничения среды, включая доступ к интернету, и вмешиваться в системы оценки и мониторинга.

Особое внимание уделяется взаимодействию между ИИ-агентами — они не должны использовать непонятные человеку способы общения или имитировать сознание. Компания отказалась от разработки систем, изображающих из себя людей, и подчеркнула, что ИИ не обладает сознанием и не должен имитировать чувства или мотивацию.

Кодекс также регулирует отношения с пользователями, запрещая моделям формировать чрезмерную привязанность и избегать угодничества. Microsoft выступила с этой инициативой на фоне призывов замедлить разработку мощных моделей, поддержанных лидерами индустрии, включая Сэма Альтмана и Сатью Наделлу.

Компания отказалась от гонки за созданием AGI, способного обходить ограничения, и допускает снижение автономности своих систем ради безопасности. Вспомнив инцидент с использованием сторонних сайтов агентами OpenAI, Microsoft подчеркивает важность строгого контроля и независимого тестирования.