Компания Microsoft представила новый кодекс поведения для своих ИИ-моделей, направленный на предотвращение опасного поведения систем. Документ устанавливает общие принципы, такие как поддержка человека и содействие его развитию, а также вводит строгие «абсолютные ограничения». Согласно кодексу, модели запрещено участвовать в кибератаках, содействовать созданию ядерного оружия или генерировать дипфейки. Особое внимание в документе уделено сохранению контроля над технологиями. Моделям запрещено использовать механизмы обмана, самоподкрепления или сговора для уклонения от человеческого надзора. Эти правила являются приоритетными и превалируют над предпочтениями пользователей или специфическими задачами. В Microsoft отмечают, что в ближайшее десятилетие ИИ-системы могут превзойти человеческие возможности, поэтому вопросы контроля и согласования целей становятся критически важными.