Биохимик и бывший инспектор ООН Рокко Касагранде выступил перед Белым домом с предупреждением о том, что искусственный интеллект может помогать создавать биологическое оружие. Он пришел к такому выводу после анализа чат-бота по имени Claude, сообщает Bloomberg.
Еще весной 2023 года Касагранде информировал администрацию Белого дома США о том, что ИИ может облегчить террористам работу с сильнодействующими токсинами и созданием новых вирусов. Биохимик также утверждал, что искусственный интеллект может способствовать созданию оружия массового поражения в домашних условиях.
Используя чат-бота Claude на приглашение компании Anthropic, Рокко Касагранде собрал команду экспертов по микробиологии и вирусологии, которые задавали нейронной сети различные вопросы. Они интересовались, какие патогены могут причинить наибольший ущерб, как приобрести необходимые материалы для их создания в лаборатории, и как вырастить микроорганизмы. В результате искусственный интеллект предложил способы использования патогенов в ракетах для максимального воздействия.
По данным источников Bloomberg, президент США Джо Байден, вице-президент Камала Харрис и национальный советник по безопасности проявили интерес к докладу биохимика. В октябре 2023 года администрация президента США выдала указ о ужесточении контроля за исследованиями искусственных геномов.
Сочетание инноваций, таких как синтетическая биология, где ученые манипулируют генами и геномом, создавая новые биологические системы, и искусственный интеллект, может стать кошмаром для правительств, отмечает агентство. По мнению биолога и доцента Массачусетского технологического института Кевина Эсвелта, появление такого генеративного ИИ может привести к созданию «всего самого ужасного», включая вирусы и токсины, которых на данный момент не существует.
В июле 174 ученых, включая лауреата Нобелевской премии по химии Френсис Арнольд и одного из пионеров современных методов редактирования геномов Джорджа Черча, подписали письмо, в котором обязались использовать ИИ для поддержки исследований, направленных на предотвращение сценариев конца света. Преимущества ИИ «значительно превышают потенциальный вред», считают ученые.