Independent

Наличие конкретных предложений по регулированию нескольких самых очевидных развивающихся угроз от искусственного интеллекта: 1. Биологический риск. Например высокоавтономные / управляемые удалённо мокрые лаборатории, или доступ к знаниям и обучению опасным операциям неподготовленных лиц. 2. Кибербезопасность. Недавняя модель от Anthropic под названием Mythos показала, что ИИ уже может находить критические уязвимости в компьютерных системах, которые годами оставались незамеченными людьми. Это ставит под угрозу всю киберинфраструктуру, от которой зависит очень многое в современном мире. 3. Автономность и агентность. ИИ уже не просто инструмент: его активно используют как агента, давая доступ к криптокошелькам, компьютерам, настоящим физическим магазинам и так далее. Это может привести к непредвиденным последствиям, и нужно понять, где находится допустимая граница автономности. 4. Ограничение на большие тренировки. В Соединенных Штатах ИИ регулируется слабее, чем сэндвич. Но ИИ, очевидно, несоразмерно опаснее, чем сэндвич. И каждая новая модель может иметь все лучшие возможности, о которых мы еще не подозреваем, и которые могут быть использованы для деструктивных действий. Нужно на законодательном уровне внимательно отслеживать обучение, выпуск и эксплуатацию моделей ИИ выше определенного порога FLOPs.

• Safe, secure and trustworthy AI
• Transparency, accountability, and human oversight

Современные ИИ модели могут выглядеть безопасно внешне, но внутренне они не имеют достаточно убедительных механизмов, позволяющим им соответствовать желаниям, ценностям и приказам человека. Мы не должны полагаться на внешнюю безопасность или слова, не подкрепленные суровыми техническими испытаниями, оценивая подотчетность и управляемость конкретной системы.

Большая часть мира уже очень тесно взаимодействует с ИИ. По этому я рассматриваю ИИ как глобальную проблему и беспокоюсь в первую очередь не о своей стране или регионе, а о безопасности человечества в целом и устранении самых крупных потенциальных угроз, таких как биологические и кибернетические угрозы. Так как ИИ чаще всего выпускается не локально в одной стране, а на глобальный рынок, проблемы управления этими рисками могут быть очень схожи в разных странах, поскольку мы часто имеем дело с одними и теми же провайдерами и моделями.

В Глобальном диалоге могут быть на высоком уровне представлены идеи о безопасности ИИ, которые до сих пор остаются недостаточно репрезентированными на государственном и международном уровне, такие как например упомянутые мной ранее биологические риски и автономность.

Есть огромное количество относительно небольших организаций, занимающихся безопасностью ИИ. Например это Center For AI Safety, Foresight Institute, Pause AI, Machine Intelligence Research Institute, Stop AI и так далее. С ними можно сотрудничать, предлагать финансирование или гранты, объединять их усилия для больших проектов. Уникальным преимуществом которое может быть предложено в рамках Глобального диалога может стать предложение об усилении регуляции ИИ в Соединенных Штатах, так как в отличие от, например, Евросоюза, у которого есть AI Act, у них почти нет никакой регуляции ИИ.

Продвижение серьезных регуляций на законодательном уровне с внимательным научно-техническим рассмотрением проблем несоответствия, интерпретируемости и управляемости ИИ.