ООН хочет «железные гарантии» безопасности искусственного интеллекта. Верховный комиссар требует красных линий от мировых корпораций
Мир подошёл к моменту, когда одной осторожности разработчиков уже недостаточно.
Разговор о безопасности искусственного интеллекта (ИИ) всё чаще напоминает спор о технологии, которая развивается быстрее правил для неё. Верховный комиссар ООН по правам человека Фолькер Тюрк в выступлении 7 сентября предупредил, что продвинутый искусственный интеллект в перспективе способен создать экзистенциальный риск для человечества.
Тюрк призвал создать «железные гарантии» безопасности до того, как наиболее мощные системы станет слишком трудно контролировать. Среди тревожных признаков верховный комиссар назвал ситуации, когда ИИ покидает тестовую среду или пытается помешать разработчикам отключить его. Офис комиссара также опасается сбоев в критической инфраструктуре, связи и демократических институтах.
Одной добровольной осторожности разработчиков Тюрк считает недостаточно. Странам, где создают ИИ и компоненты для него, предложено согласовать общие красные линии, ввести независимую проверку систем и усилить обмен информацией о рисках. Похожую проблему в июле подняла научная группа ООН, предупредившая, что окно для глобального контроля может закрыться быстрее, чем государства договорятся о правилах.
Отдельная претензия касается концентрации власти. Тюрк заявил, что небольшая группа людей получила почти неограниченное влияние на развитие ИИ, тогда как крупнейшие модели и вычислительная инфраструктура сосредоточены у нескольких корпораций. По его оценке, задержка с регулированием прежде всего играет на руку крупным технологическим компаниям и их владельцам.
Самая жёсткая граница проходит через военное применение алгоритмов. ООН и Международный комитет Красного Креста 25 августа потребовали юридически обязательных ограничений для систем, которые самостоятельно выбирают и поражают людей. Тюрк вновь выступил против летального автономного оружия и сослался на сообщения о применении полностью автономных дронов в войне на Украине.
Дискуссия уже перешла от общих призывов к подготовке международных норм. 5 сентября 128 государств, участвующих в Конвенции ООН о конкретных видах обычного оружия, согласовали документ, который может открыть путь к переговорам о запретах и ограничениях. При этом между странами сохраняется принципиальный спор о том, должны будущие правила стать юридически обязательными или остаться рекомендациями.
Тюрк намерен отдельно обратиться к разработчикам ИИ и потребовать мер по снижению рисков, которые компании способны контролировать самостоятельно. Пока единого глобального режима надзора нет, ООН пытается закрепить хотя бы базовый принцип: чем больше самостоятельности получает алгоритм, тем жёстче должны быть внешняя проверка и человеческий контроль.