Билл Гейтс призвал США ввести обязательный контроль над ИИ-компаниями
Сооснователь Microsoft Билл Гейтс призвал власти США ввести обязательные правила для разработчиков самых мощных систем искусственного интеллекта. По его мнению, добровольных мер самих технологических компаний уже недостаточно для контроля рисков, возникающих из-за быстрого развития ИИ.
Об этом Гейтс заявил в интервью NBC News. Он считает, что к определению требований по безопасности и мониторингу должны непосредственно подключиться законодатели и правоохранительные органы. По его мнению, выполнение таких правил создаст дополнительные расходы для отрасли, но не должно существенно затормозить технологическое развитие.
Гейтс обратил внимание не только на долгосрочный сценарий потери контроля над более развитыми системами. Гораздо более близким риском он назвал использование уже существующих ИИ-инструментов людьми или организациями, которые намерены причинить масштабный вред.
Дискуссия о государственном контроле активизировалась на фоне того, что сами ведущие американские ИИ-компании все чаще говорят о необходимости внешних правил и возможного замедления разработки моделей в случае появления опасных возможностей.
Anthropic считает, что требования к разработчикам должны усиливаться вместе с возможностями моделей. Для самых мощных систем компания называет необходимыми внешнее тестирование, отчетность об инцидентах и более глубокий государственный надзор. Anthropic также работает над показателями, которые должны позволить независимым экспертам и властям отслеживать темпы развития передовых моделей.
Похожую позицию в последнее время занимает и OpenAI. Компания выступила за обязательные национальные требования к безопасности ИИ в США и международные стандарты, которые определяли бы порядок оценки возможностей моделей, рисков и достаточности защитных механизмов. OpenAI допускает, что при определенных условиях такие правила могут предусматривать замедление или остановку дальнейшего наращивания возможностей моделей.
На этом фоне среди технологических компаний нет полного единства относительно формы контроля. Часть руководителей отрасли поддерживает общие обязательные стандарты, тогда как другие считают, что лаборатории должны самостоятельно определять, когда им нужно приостанавливать разработку для дополнительных проверок безопасности.
Позиция Гейтса заключается в том, что такие решения не должны оставаться исключительно на усмотрение компаний, которые одновременно конкурируют между собой за создание более мощных моделей. Он поддерживает систему, при которой базовые требования к мониторингу и защите будут устанавливаться на уровне государства.