Искусственный интеллект (ИИ) становится технологией, сравнимой по последствиям с ядерным оружием. Он обещает невероятные достижения в науке и экономике, но также несет риски, которые могут привести к глобальной катастрофе.
Лидеры цифровой индустрии США осознают эту угрозу и предлагают механизмы контроля, но их методы вызывают споры. Об этом в своей статье для РИА «Новости» пишет IT-обозреватель и британский аналитик Дэн Робинсон.
Гонка за Сверхразумом
По мнению Робинсона, сегодня крупнейшие корпорации США развивают ИИ-системы, инвестируя миллиарды в вычислительные мощности и энергетические ресурсы.
Однако подходы к созданию искусственного интеллекта различаются. Одни считают, что технологии должны контролироваться государством, другие — что частные компании должны идти своим путем.
Несмотря на разногласия, большинство экспертов сходятся в одном: появление машинного сверхразума неизбежно.
Этот скачок может привести к революционным открытиям, таким как лечение неизлечимых болезней и решение глобальных экономических проблем. Однако если развитие ИИ выйдет из-под контроля, он может стать угрозой существованию человечества, считает обозреватель.
План Дональда Трампа и стратегия США по искусственному интеллекту
После возвращения в Белый дом американский лидер Дональд Трамп одним из первых указов поручил разработку стратегии по ИИ.
Он призвал все заинтересованные стороны предложить меры регулирования, чтобы минимизировать риски и предотвратить возможные катастрофические сценарии.
«Стратегия суперинтеллекта»: как остановить ИИ?
На этот призыв ответили ведущие эксперты индустрии. Директор Центра безопасности ИИ Дэн Хендрикс, глава «Scale AI» Александр Ван и бывший CEO Google Эрик Шмидт предложили свою стратегию под названием «Стратегия суперинтеллекта».
В своем докладе они подчеркивают:
- Гонка за ИИ ставит под угрозу безопасность всех государств.
- Потеря контроля над ИИ может привести к глобальному кризису.
- Если одна страна достигнет доминирования в ИИ, это спровоцирует конфликты.
Чтобы предотвратить такие сценарии, эксперты предлагают использовать методы времен холодной войны.
MAIM: Взаимная гарантия неисправности ИИ
Шмидт и его коллеги разработали концепцию MAIM (Mutual Assured AI Malfunction — «Взаимная гарантия неисправности ИИ»).
Это адаптация доктрины MAD (Mutual Assured Destruction — «гарантированное взаимное уничтожение»), которая использовалась для предотвращения ядерной войны.
В рамках MAIM предлагаются следующие меры:
- Разведывательные операции для мониторинга разработки ИИ в других странах.
- Саботаж, включая кибератаки (по аналогии с вирусом Stuxnet, использованным против ядерной программы Ирана).
- Нарушение работы энергетических систем, питающих центры обработки данных.
- Прямые удары по объектам, связанным с ИИ.
Эти методы должны сдерживать государства от создания неконтролируемого ИИ.
Контроль за искусственным интеллектом и «цифровые Бен Ладены»
Вторая часть стратегии — строгий контроль за распространением ИИ. Авторы предлагают:
- Ограничить экспорт высокопроизводительных процессоров.
- Усилить кибербезопасность разработчиков ИИ.
- Запретить продажу технологий странам, которые могут использовать их в военных целях.
Шмидт ранее заявлял, что одна из главных угроз — попадание искусственного интеллекта в руки «нового Бен Ладена». Поэтому США должны жестко регулировать технологический экспорт.
Разногласия и критика стратегии в США
Предложенная стратегия вызывает множество вопросов. Трамп уже объявил о «новом Манхэттенском проекте» в области ИИ — программе «Stargate», в которую правительство США планирует инвестировать $500 млрд. 
Это совместное предприятие компаний OpenAI, SoftBank и Oracle.
Для начала будет выделено $100 млрд, но цель — увеличить объем инвестиций как минимум до $500 миллиардов.
Деньги будут потрачены на строительство новой инфраструктуры для «OpenAI», включая центры обработки данных и физические кампусы.
Это противоречит предложению Шмидта отказаться от гонки вооружений в пользу сдерживания.
Некоторые эксперты, такие как британский аналитик Дэн Робинсон, считают, что США выберут стратегию невмешательства, позволяя технологическим гигантам свободно развивать ИИ.
Российский политолог Глеб Кузнецов выразил критическое мнение относительно концепции MAIM (Mutual Assured AI Malfunction — «Взаимная гарантия неисправности ИИ»), предложенной рядом американских экспертов для сдерживания развития искусственного интеллекта (ИИ).
Он отметил, что идея MAIM создает фундаментальное противоречие между заявленной целью — обеспечением стабильности технологий — и предлагаемыми средствами её достижения.
Кузнецов подчеркнул, что применение таких мер, как ракетные удары по стратегически важным объектам на территории ядерных держав, едва ли можно считать эффективным элементом сдерживания.
Кузнецов также выразил сомнения в эффективности стратегии MAIM, указывая на её потенциальную дестабилизирующую природу. Он подчеркнул, что агрессивные меры сдерживания могут привести к эскалации конфликтов между государствами, что противоречит цели обеспечения глобальной безопасности в эпоху развития ИИ.
Искусственный интеллект — это одновременно величайшая возможность и самая большая угроза для человечества. США и другие державы вынуждены искать баланс между развитием технологий и их контролем.
Однако пока неясно, выберет ли мир путь сотрудничества или окажется в новой «цифровой холодной войне».
