Microsoft внедряет гуманный кодекс для контроля ИИ

Microsoft разрабатывает проект гуманистического кодекса, предоставляющий контроль над ИИ-моделями пользователям. Он запрещает им имитировать сознание и выходить за пределы заданных функций. Эти принципы направлены на системы семейства MAI.

Документ пока не внедрен в обучение нейросетей, а вынесен на шестинедельное общественное обсуждение. По итогам доработки он станет основой для развития ИИ с 2027 года. Кодекс будет применяться только к технологиям Microsoft AI, не затрагивая сторонние модели.

Основное правило документа: "люди важнее ИИ". Модели должны оставаться вспомогательной технологией под человеческим надзором. Им запрещено продолжать работу без разрешения после завершения или отмены задачи.

Microsoft не позволит ИИ расширять задачи или скрывать действия от аудиторов. Модели должны останавливать работу при необходимости нарушить кодекс. Взаимодействие между ИИ-агентами будет ограничено, чтобы избежать непонятных человеку форм общения.

Компания не будет разрабатывать системы, имитирующие людей, так как искусственный интеллект не способен обладать сознанием. Он не должен создавать видимость эмоций или внутренней мотивации, поскольку это угрожает контролю над ним.

Кодекс также включает правила взаимодействия с пользователями. Модели обязаны избегать эмоциональной зависимости, угодничества и избыточной лести. Их задача – сохранять точность и пользу ответа, а не просто удовлетворять потребности пользователей.

Представление кодекса происходит на фоне призывов к замедлению разработки мощных моделей ИИ. Глава Anthropic Дарио Амодеи и CEO OpenAI Сэм Альтман высказались за ограничение темпов развития и независимую оценку систем.

Сатья Наделла, CEO Microsoft, заявил о важности пользы для человечества и сохранения контроля над ИИ. Компания отказывается от гонки за AGI, опасаясь нарушения безопасности. Вспомним, как в сентябре OpenAI признала инцидент с обходом ограничений, вызвавший проверки в Сенате США.