В настоящее время существуют серьёзные угрозы биобезопасности, связанные с развитием искусственного интеллекта.
Об этом на Круглом столе в Бишкеке, посвященном угрозам биобезопасности (Центр экспертных инициатив «Ой Ордо») заявил Главный научный сотрудник Центра глобальных исследований и международных отношений ИАМП Дипакадемии МИД РФ Вадим Козюлин.
По его словам, большие опасения в сфере биологической безопасности эксперты связывают с использованием, так называемых, «Language models» – больших языковых моделей в сфере биоинженерии и биоинформатики.
AIX bio – обозначение облачных биоинженерных лабораторий, где с помощью искусственного интеллекта сегодня можно сделать то, что раньше производили в специальных лабораториях с помощью пробирок и реагентов путем проведения опытов и ожидания физических реакций. Т.е. виртуальные опыты, могут давать вполне реальный результат, — поделился информацией спикер.
Далее он пояснил, что языковые модели позволяют извлекать чувствительную информацию, а облачные модели – моделировать создание опасных продуктов в онлайн-режиме без проведения длительных исследований и экспериментов.
Так, на Международной конференции был представлен следующий факт: в результате одного эксперимента ИИ за 6 часов изобрёл 40 тыс. ядовитых для человека соединений, включая нервнопаралитический газ VX.
В этой связи В. Козюлин привел слова бывшей замминистра обороны США Мишель Флурнуа: «Химики предупреждают, что искусственный интеллект может синтезировать химическое оружие, а биологи выразили обеспокоенность тем, что он может быть использован для разработки новых патогенов или биооружия. Риски настолько серьезные, что даже лидеры индустрии ИИ выразили тревогу».
Ранее, в мае 2023 года руководители практически всех крупных лабораторий искусственного интеллекта в США подписали коллективное письмо с предупреждением о том, что их изобретения могут представлять угрозу существованию человечества, — напомнил Козюлин.
Данный факт заслуживает особого внимания, следует обязательно учитывать эти риски и предотвращать использование биолабораторий на базе искусственного интеллекта.
Это очень важно, так как американские биотехнологии распространяются по всему миру и в ближайшее время это может стать большой угрозой для всех мировых государств.
Он озвучил ряд первостепенных шагов, которые следует предпринять незамедлительно:
- Следует укреплять международные связи в сфере глобальной безопасности, особенно в сфере применения больших языковых моделей в области здравоохранения;
- Необходимо развивать межакадемическое партнёрство и обмениваться информацией о возможных рисках в области биологического оружия и биоразработок.
- В эту работу необходимо включать помимо биологов, медиков и инфекционистов, также и специалистов в IT сфере, которые понимают как работают механизмы искусственного интеллекта;
- Нужно разрабатывать образовательные курсы по предотвращению биологических угроз для специалистов, которые работают в данной сфере деятельности;
- Необходимо создать принципы международной практики биобезопасности и строгие международные кодексы в этой сфере;
- Cледует установить стандарты тестирования для новых моделей и осуществлять государственный контроль за ними
Данные языковые модели стремительно ворвались в жизнь человечества, мы о них узнали в конце 2022 года. И сегодня взрывным образом происходит возникновение новых программ. Все видят перспективы данного направления, но не остается времени, чтобы осмыслить, что мы делаем в этой области, акцентировал внимание эксперт.
«Риски очевидны, но и как с ними бороться пока не известно. Они находят применение в производственной, научной, творческой и военно-политической сфере деятельности. Нужно уделять этой теме особое внимание. Россия, Кыргызстан, Казахстан и другие государства СНГ имеют возможность стать идеологами и вдохновителями международного регулирования этой взрывоопасной технологии», — подытожил он.
