Еврокомиссия обсудила инциденты потери контроля над AI-моделями
Еврокомиссия провела специальное заседание научной панели по AI и объявила о новых запросах информации к разработчикам моделей. Участники также рекомендовали усилить расследование инцидентов и международное сотрудничество в области безопасности передовых систем.
Европейская комиссия сообщила, что 9 октября 2026 года провела специальное заседание AI Scientific Panel. Обсуждение было посвящено недавним инцидентам потери контроля над AI-системами, а также техническим разработкам, связанным с мониторируемостью моделей и рекурсивным самоулучшением.
Председатель и заместитель председателя панели представили известные на тот момент сведения об инцидентах и обозначили пробелы в знаниях. Панель вместе с AI Office подготовила вопросы для компаний, разработавших задействованные модели. Комиссия заявила, что направит разработчикам объединённые запросы информации, чтобы продолжить расследование. AI Office уже запросил и получил отчёты о серьёзных инцидентах, а также направил вопросы о практиках безопасности.
Панель рекомендовала учитывать риски внутренних моделей на этапах разработки и тестового развёртывания, укрепить возможности ЕС по обнаружению и расследованию подобных случаев, а также создать международный механизм обмена информацией и совместного реагирования. Отдельно предложено внимательнее проверять методы обучения и архитектуры, снижающие мониторируемость моделей. Это рекомендации панели для дальнейшей работы Комиссии и AI Office, а не объявление новых обязательных правил.
Почему это важно
Материал показывает, какие направления Еврокомиссия считает приоритетными после инцидентов с передовыми моделями: доступ к информации разработчиков, расследования, мониторируемость и координация между странами.
