Глава МИД Британии призвала не дожидаться «Хиросимы» от ИИ
Глава МИД Великобритании Иветт Купер заявила, что миру нельзя дожидаться собственной «Хиросимы» в сфере искусственного интеллекта, чтобы начать действовать. Она призвала мировых лидеров договориться о единых стандартах безопасности для ИИ.
Свои аргументы Купер изложила в эссе, подчеркнув, что Великобритания должна возглавить международный диалог об этой технологии.
Хотите еще эксклюзивных новостей и аналитики? Подписывайтесь на наш телеграм-канал, обсуждайте новости и делитесь мнениями о последних событиях рынка в чате!
Почему Купер упоминает Хиросиму
По ее словам, четкие правила для ядерной безопасности появились только после того, как весь мир увидел разрушительную силу атомной бомбы. Купер уверена — повторять такую ошибку с ИИ нельзя.
Она назвала обеспечение безопасности искуственного интеллекта главным вызовом для мировой безопасности на ближайшие десять лет.
«Мир не может ждать, пока возникнет своя «Хиросима» для ИИ, чтобы что-то предпринять», — подчеркнула она в публикации.
Купер добавила, что Великобритания занимает третье место среди ведущих стран в развитии технологии искуственного интеллекта, уступая только США и Китаю. Королевство уже стало одним из главных голосов по вопросам безопасности искусственного интеллекта.
Купер намерена использовать влияние Британии, чтобы привлечь США, Китай и другие крупнейшие центры разработки ИИ к выработке совместных подходов и стандартов безопасности.
Нарастают предупреждения о киберугрозах AI
Эссе Купер вышло после серии предупреждений от специалистов по безопасности и финансам. В прошлом месяце разведывательный альянс Five Eyes выступил с совместным заявлением об угрозах со стороны ИИ.
В этот альянс входят США, Великобритания, Канада, Австралия и Новая Зеландия. Его участники полагают, что передовые ИИ-системы резко изменят возможности кибератак и киберзащиты уже в ближайшие месяцы, а не годы.
Заместитель главы Банка Англии Сара Бриден поддержала призывы срочно оценить риски ИИ на форуме ЕЦБ 30 июня. Она отметила, что ИИ заметно ускоряет перемены в финансах, и подчеркнула, что важно не допустить, чтобы «следующий неожиданный сюрприз не стал испытанием для стабильности всей финансовой системы».
Бриден указала, что пока торговые компании применяют агентные ИИ-системы для низкорисковых задач вроде исследований. Но ситуация может быстро измениться. По ее мнению, если множество ИИ-агентов начнут одинаково реагировать на одинаковые сигналы, это способно усилить волатильность на рынке в период стресса.
«Эти инструменты усиливают киберустойчивость, когда ими пользуются честные люди. В руках злоумышленников они существенно повышают риск атак, способных нанести ущерб финансовой стабильности», – отметила она.
Эксперты сходятся в одном – искусственный интеллект развивается быстрее, чем успевают обновляться правила регулирования. Власти призывают сократить этот разрыв.