Одной из главных проблем развития искусственного интеллекта становится концентрация технологической власти, отмечает генеральный директор Фонда "Природа и люди" Сергей Рыбаков. Передовые чипы, облачные мощности, базовые модели, данные и капитал контролируются ограниченным кругом стран и компаний. Это создает риск, при котором формальный доступ к искусственному интеллекту не означает реальной технологической самостоятельности. Сохраняется зависимость от поставщиков и отсутствует возможность влиять на стандарты, цены и правила использования данных.

Рыбаков рассказал, что также существует разрыв между заявлениями и их реализацией. Инвестиционные обещания, политические и финансовые обязательства, выставочные демонстрации имеют разную природу, но ни одно из них само по себе не доказывает наличия общественного эффекта.

Кроме того, в сфере ИИ заметна фрагментация управления, говорит эксперт. Организация Объединенных Наций, Международный союз электросвязи, международные альянсы и организации в сфере искусственного интеллекта, региональные объединения, национальные регуляторы и технические органы могут дополнять друг друга. Однако без четкого распределения функций они способны дублировать работу и предъявлять несовместимые требования.

Президент Сети Организации Объединенных Наций по поиску решений в области устойчивого развития (SDSN) Джеффри Сакс отмечает, что ИИ стал одной из самых мощных технологических революций. Новые технологии способны значительно повысить эффективность в науке, медицине, промышленности и других сферах. Уже на начальном этапе их развития заметны серьезные изменения на рынке труда и в распределении доходов. По его словам, капитал будет все больше концентрироваться у компаний, которые обладают патентами и собственными моделями искусственного интеллекта.

"Если посмотреть на другие последствия, мы видим, что искусственный интеллект сейчас превращается в своего рода оружие, а Кремниевая долина становится центром вооружения Пентагона. Генералы и военные постоянно взаимодействуют с технологическими компаниями, чтобы искусственный интеллект стал частью поля боя", - добавляет Сакс.

Также возможности ИИ развиваются быстрее, чем государства успевают их понимать, оценивать и контролировать, указывает заместитель начальника Экспертного управления президента России Светлана Лукаш. Она рассказала, что сейчас в отрасли говорят прежде всего о возможностях искусственного интеллекта, потому что он должен прежде всего нести благо, выравнивать диспропорции в развитии. Но необходимо все время помнить, что искусственный интеллект может стать огромной опасностью, если люди не научатся им управлять, отмечает эксперт.

Важно, что поведение моделей не конструируется человеком целиком по заранее прописанным правилам, а формируется в процессе обучения. Поэтому возникает проблема предсказуемости.

"Поэтому первостепенный вопрос - согласование искусственного интеллекта. Сейчас мы думаем, что должны научить его следовать нашим принципам этики, нормам морали и так далее. Но, возможно, речь будет идти уже о согласовании человека и искусственного интеллекта. На каких условиях - пока неизвестно", - рассказала Лукаш.

Директор Регионального отделения Международного союза электросвязи (МСЭ) региона СНГ Наталья Мочу обращает внимание на риск дальнейшего увеличения цифрового разрыва между странами. Искусственный интеллект становится катализатором глобальных цифровых изменений, но государства подходят к новой технологической эпохе с разными инфраструктурными возможностями.

В частности, по ее словам, покрытие сетями 5G в развитых странах уже превышает 80%, тогда как в наименее развитых составляет около 4-5%. "Без выравнивания инфраструктуры говорить о полноценном и этичном использовании искусственного интеллекта на благо всего человечества крайне сложно", - говорит Мочу.

При этом создать единый международный свод правил в области ИИ, который устроил бы все страны, пока сложно, отмечает Мочу. Поэтому одним из возможных решений становится не унификация регулирования, а обеспечение совместимости различных национальных подходов. "Рассматривается подход интероперабельности национальных систем и создания гибких мостов между регуляторными моделями разных стран через общие технические бенчмарки", - рассказала она. По ее словам, страны пока по-разному видят будущее управления ИИ. Одни выступают за более четкие централизованные механизмы под эгидой ООН, другие - за более гибкий подход, в большей степени основанный на стандартах, формируемых бизнесом.