Генсекретарь ООН Антониу Гутерриш призвал страны мира не затягивать с выработкой международных правил для искусственного интеллекта. Поводом стал первый доклад Независимой международной научной группы по ИИ, созданной под эгидой ООН.
В документе подчеркивается: искусственный интеллект может стать мощным инструментом развития, но без общих норм его стремительный прогресс способен создать серьезные угрозы для общества, безопасности и прав человека.
За последние годы возможности ИИ резко выросли благодаря развитию вычислительных мощностей, крупным инвестициям и новым методам машинного обучения.
Современные системы уже умеют вести естественный диалог, писать программный код, решать сложные задачи, анализировать большие массивы данных, создавать изображения, звук и видео.
Однако технология остается несовершенной: она может ошибаться, хуже работать с отдельными языками и культурными контекстами, а также выдавать недостоверную информацию.
Искусственный интеллект все активнее внедряется в науку, медицину, сельское хозяйство, образование, IT и другие сферы.
Одним из ярких примеров стала система AlphaFold, позволившая определить структуру более 200 млн белков и ускорить исследования в фармацевтике, биологии и борьбе с устойчивостью бактерий к антибиотикам.
В здравоохранении ИИ помогает раньше выявлять заболевания, а в странах с ограниченными ресурсами — поддерживать врачей с помощью инструментов на местных языках.
При этом развитие ИИ в мире происходит крайне неравномерно. Передовые технологии, вычислительные мощности и ключевые компоненты сосредоточены в руках ограниченного числа стран и компаний.
По оценкам экспертов, около 75% мощностей ведущих суперкомпьютеров для ИИ приходится на США, еще примерно 15% — на Китай. Эти же государства играют ключевую роль в создании наиболее продвинутых моделей и производстве важных элементов, включая компьютерные чипы.
Особое внимание в докладе уделяется ИИ-агентам — автономным программам, способным самостоятельно планировать действия и выполнять задачи почти без участия человека.
Их возможности быстро растут: сложность программных задач, которые они могут решать, удваивается примерно каждые 4–7 месяцев.
Если тенденция сохранится, такие системы смогут за часы выполнять работу, на которую специалистам сегодня требуются дни или недели. Уже сейчас они ускоряют поиск новых материалов и сокращают объем ручного анализа научной литературы.
Вместе с пользой растут и риски. ООН предупреждает, что ИИ все чаще используется для создания дипфейков, незаконного контента, манипуляций, мошенничества и кибератак. Уязвимыми остаются женщины, дети и люди, не способные распознать цифровую подделку.
Отдельную тревогу вызывает способность некоторых систем не исправлять опасные заблуждения пользователей, а поддерживать их, что может усугублять личные кризисы и приводить к тяжелым последствиям.
Авторы доклада считают, что мир нуждается в эффективных международных механизмах контроля за ИИ.
При грамотном подходе технология способна создавать рабочие места, повышать производительность, улучшать образование, медицину и качество жизни.
Но без инвестиций в кадры, инфраструктуру, данные и регулирование искусственный интеллект может усилить безработицу, цифровое неравенство и зависимость слабых стран от технологических лидеров.
Именно поэтому Организация Объединённых Наций призывает правительства действовать уже сейчас, пока у общества еще есть возможность влиять на будущее ИИ.
