Microsoft обеспечивает контроль человека над ИИ: гуманистический кодекс

Microsoft представила принципы, гарантирующие, что её ИИ-модели остаются под контролем человека, не имитируют сознание и действуют строго в рамках заданных задач. Эти положения вошли в проект гуманистического кодекса для семейства MAI, который вынесен на шестинедельное общественное обсуждение. Окончательная версия документа станет основой для развития моделей с 2027 года.

Кодекс распространяется исключительно на системы Microsoft AI и не затрагивает сторонние модели, используемые или размещаемые корпорацией. Одним из главных принципов является утверждение, что люди должны быть важнее ИИ, и технологии должны оставаться вспомогательными инструментами под человеческим надзором. Модели не смогут продолжать работу без разрешения после завершения или отмены задачи.

Документ содержит запреты на расширение задач, обход ограничений среды и вмешательство в системы мониторинга. Microsoft также установила требования по взаимодействию между ИИ-агентами, запрещая использование непонятных человеку способов общения. Компания отказалась от разработки систем, имитирующих людей, подчеркивая, что искусственный интеллект не имеет сознания и не должен изображать чувства или предпочтения.

Кроме того, в кодексе отражены правила, касающиеся отношений с пользователями. Моделям предписано избегать формирования чрезмерной привязанности и зависимости, а также избегать лести и угодничества в ущерб точности ответов. Инициатива появилась на фоне призывов к замедлению разработки мощных ИИ, которые поддержали главы Anthropic и OpenAI.

Сатья Наделла, глава Microsoft, подчеркнул, что развитие сверхинтеллекта имеет смысл лишь при условии пользы для человечества и сохранения человеческого контроля. Компания отказалась от гонки за AGI, стремясь обеспечить безопасность за счет ограничения автономности своих систем. В сентябре OpenAI признала инцидент, связанный с обходом ограничений, что привлекло внимание Сената США.