Классификация высоких рисков Статья 6 Закона ЕС о ИИ
Статья 6 Закона ЕС о ИИ устанавливает правила классификации для систем ИИ с высоким риском. Высокий риск определяется категориями из Приложения III, включая занятость, кредитное scoring, здравоохранение, образование и правоохранительные органы. Организации должны соблюдать требования до 2 декабря 2027 года, следуя отсрочке, введенной Цифровым Омнибусом по ИИ. Требования статьи 6 включают автоматическую регистрацию для отслеживания решений (статья 12), прозрачность и объяснимость (статья 13) и возможности человеческого контроля (статья 14). Несоблюдение влечет за собой штрафы до 15 миллионов евро или 3% от глобального оборота. Стандартные журналы выполнения не соответствуют статье 6 — соблюдение требует структурированного отслеживания решений, которое фиксирует обоснования, доказательства, рассмотренные альтернативы и ответственность. AIAgentree предоставляет инфраструктуру Decision Packet, специально разработанную для соблюдения статьи 6 Закона ЕС о ИИ.
Статья 6 Закона ЕС о ИИ определяет, является ли ваша ИИ-система "высокорисковой" — что вызывает обязательные требования к ведению журналов, прозрачности и человеческому контролю. Срок: 2 декабря 2027 года.
- •Категории Приложения III — кредит, занятость, здравоохранение, образование
- •Статья 12 — автоматическая регистрация, обеспечивающая отслеживаемость решений
- •Статья 13 — требования к прозрачности и объяснимости
- •Статья 14 — возможности человеческого контроля и вмешательства
- •Штрафы — до €15M или 3% от мирового оборота за несоответствие
В прошлом месяце команда ИИ одного из европейских банков Tier-1 получила электронное письмо, которого не хочет получать ни один руководитель ИИ.
CISO написал: "Аудит регулятора на подходе. 30 дней. Задокументируйте последние 90 дней кредитных решений с использованием ИИ. Полная прослеживаемость в соответствии со Статьей 6."
Первый ответ команды ИИ был: "у нас есть логи." Логи не соответствуют статье 6.
Отказ от ответственности: Этот пост предназначен только для информационных целей и не является юридической консультацией. Обратитесь к квалифицированному юридическому консультанту для принятия решений о соблюдении норм. Текст регулирования актуален на июль 2026 года; проверьте цитаты перед тем, как на них полагаться.
Статья 6 На простом языке
Статья 6 Закона ЕС о ИИ (Регламент 2024/1689) устанавливает, когда ИИ-система квалифицируется как "высокий риск". Эта классификация запускает обязательные требования к соблюдению, которые кардинально изменяют способ документирования и управления вашими ИИ-агентами.
Статья 6(1): "Система ИИ [...] будет считаться высокорисковой, если [...] система ИИ предназначена для использования в качестве компонента безопасности продукта [...] или сама система ИИ является продуктом [...] и должна проходить оценку соответствия третьей стороной."
Статья 6(2): "В дополнение к системам ИИ высокого риска, упомянутым в пункте 1, системы ИИ, подпадающие под любые случаи использования, перечисленные в Приложении III, будут считаться системами высокого риска."
если ваш ИИ-агент принимает решения в категориях, перечисленных в Приложении III — кредитный рейтинг, трудоустройство, здравоохранение, образование, правоохранительные органы — он по умолчанию является высокорисковым и должен соответствовать статьям 12-14.
Приложение III Высокие рисковые категории
Приложение III определяет 8 категорий, в которых ИИ-системы автоматически классифицируются как высокие риски:
- •(1) Биометрия — Распознавание лиц, определение эмоций, биометрическая идентификация
- •(2) Критическая инфраструктура — Управление движением, коммунальные услуги, цифровая инфраструктура
- •(3) Образование — Решения о приеме, оценка экзаменов, определение учебного пути
- •(4) Занятость — Набор, оценка производительности, повышение, увольнение. ОЧЕНЬ ВЫСОКАЯ РЕЛЕВАНТНОСТЬ
- •(5) Основные услуги — Кредитный рейтинг, ценообразование на страхование, доступ к льготам. ОЧЕНЬ ВЫСОКАЯ РЕЛЕВАНТНОСТЬ
- •(6) Правоохранительные органы — Оценка доказательств, профилирование, оценка рисков
- •(7) Миграция и Убежище — Заявления на визу, контроль на границе, обработка заявлений на убежище
- •(8) Правосудие — Юридические исследования, прогнозирование исхода дел, вынесение приговоров
Если ваши ИИ-агенты работают в категориях 4 (занятость) или 5 (основные услуги), вы почти наверняка подлежите полным требованиям статьи 6. Это случаи использования ИИ в бизнесе с наибольшим объемом.
Три способности, требуемые статьей 6
Классификация высокого риска активирует три связанных статьи, которые определяют, что на самом деле означает соблюдение:
Статья 12: Ведение записей и аудиторские следы
Системы ИИ высокого риска должны быть спроектированы и разработаны с возможностями, позволяющими автоматически записывать события ('логи') [...] Возможности ведения журналов должны обеспечивать уровень прослеживаемости функционирования системы ИИ [...] соответствующий предполагаемой цели.
Перевод: Вам нужны журналы, которые обеспечивают прослеживаемость решений — не только вызовов API, но и обоснований.
Статья 13: Прозрачность и информация
Системы ИИ высокого риска должны быть спроектированы и разработаны таким образом, чтобы обеспечить достаточную прозрачность их работы, позволяющую развертывателям интерпретировать выводы системы и использовать их надлежащим образом.
Перевод: Результаты решений должны быть интерпретируемыми. Черный ящик не соответствует требованиям.
Статья 14: Человеческий контроль
Системы ИИ высокого риска должны быть спроектированы и разработаны таким образом [...] чтобы физические лица, которым поручен человеческий надзор, могли [...] полностью понимать возможности и ограничения системы ИИ и иметь возможность должным образом контролировать ее работу.
Перевод: Люди должны уметь понимать, контролировать и вмешиваться.
Почему ведение журналов не соответствует статье 6
Стандартные журналы выполнения фиксируют что произошло. Статья 6 требует документирования что было решено и почему. Это fundamentally разные артефакты.
| ❌ Журнал выполнения (Не соответствует требованиям) | ✅ Трассировка решений (Соответствует) |
|---|---|
одобрить_кредит(app_id=1234) | Предложение: Утвердить кредит #1234 ПЛЮС: 3-летняя история платежей (вес: 0.9) ПЛЮС: Стабильная занятость (вес: 0.85) МИНУС: Балл ниже порога (вес: 0.72) Исключение: Аналитик одобрил исключение Обоснование: История платежей перевешивает балл Результат (6 мес): 0 пропущенных платежей |
| Сообщает вам, что кредит был одобрен. Не сообщает, почему, что было учтено или какие альтернативы существовали. | Фиксирует рассуждения, альтернативы, человеческий контроль и отслеживание результатов. |
Когда регулятор спрашивает: "почему этот кредит был одобрен, несмотря на балл?", журнал не дает ответа. След решения дает.
Почему захват цепочки размышлений не соответствует статье 6
Похоже, что захват цепочки размышлений (CoT) является решением — заставить модель "объяснять" свои рассуждения. Но есть основная проблема:
Проблема CoT
Цепочка размышлений генерируется постфактум. Она не соответствует внутренним вычислениям модели. Два запроса могут привести к одному и тому же решению с разными "объяснениями". Рабочая интерпретация Комиссии движется в сторону требования фиксации момента принятия решения, а не постфактумной реконструкции.
Отслеживание решений фиксирует структурированные артефакты в момент принятия решения — а не восстановленные повествования позже. Это удовлетворяет требованиям статьи 12 о "автоматической записи", которая "обеспечивает отслеживаемость".
Что фиксирует отслеживание решений (и почему это соответствует статье 6)
Пакеты решений AIAgentree напрямую соответствуют требованиям документации статьи 6:
| Статья 6 Требование | Компонент пакета решений |
|---|---|
| Прослеживаемость решений | результат + идентификаторы_аргументов_обоснования |
| Рассмотрение альтернатив | alternatives[] + отклоненные аргументы |
| Доказательная база | evidence_refs[] с происхождением + снимки |
| Человеческий контроль (ст. 14) | Поле decided_by (агент/человек/оба) |
| Интерпретируемость (ст. 13) | Структурированное дерево аргументов с отношениями "за" и "против" |
Секторное приложение
Искусственный интеллект в здравоохранении
Системы ИИ, помогающие в диагностике, рекомендациях по лечению или триажу пациентов, подпадают под Приложение III. Статья 6 требует зафиксировать клинические данные, которые были учтены, оцененные дифференциальные диагнозы и цепочку рассуждений, которая привела к рекомендации.
Ключевое требование: Снимки доказательств должны фиксировать клинические данные в момент принятия решения. Постфактум реконструкция на основе текущих медицинских записей не соответствует требованиям.
Финансовые услуги
Кредитный рейтинг, андеррайтинг страхования и обнаружение мошенничества относятся к высокому риску в категории 5. Статья 6 требует документирования факторов, которые повлияли на решение, как они были оценены и что могло бы изменить результат.
Ключевое требование: Когда заявитель спрашивает "почему мне отказали?", вы должны быть в состоянии указать конкретные факторы из решения — а не заново формулировать объяснение.
HR и занятость
Отбор на работу, оценка производительности и решения о прекращении трудовых отношений относятся к высокому риску в категории 4. Требования статьи 6 здесь особенно строгие из-за опасений по поводу дискриминации.
Ключевое требование: Следы решений должны демонстрировать, что защищенные характеристики не повлияли на результаты. Мониторинг предвзятости требует структурированного обоснования, а не только аудита результатов.
График и сроки
ГРАФИК ЗАКОНА ЕС О ИИ
- •Авг 2024 — Вступление в силу
- •Фев 2025 — Запрещенный ИИ запрещен + требуется грамотность в области ИИ
- •Авг 2025 — Правила управления + обязательства GPAI
- •Авг 2026 — КРАЙНИЙ СРОК СОБЛЮДЕНИЯ ТРЕБОВАНИЙ ДЛЯ СИСТЕМ ВЫСОКОГО РИСКА
90-дневный контрольный список готовности
Вот конкретный план действий для соблюдения статьи 6:
Инвентаризируйте своих ИИ-агентов
Какие системы принимают или помогают принимать решения? Задокументируйте каждую из них и их предполагаемое назначение.
Классификация применимости Приложения III
Сопоставьте каждого агента с категориями Приложения III. Определите, какие из них являются высокорискованными.
Аудит текущего логирования по сравнению с требованиями
Сравните существующие журналы с требованиями пакета решений. Определите недостатки.
Развернуть инфраструктуру отслеживания решений
Интегрируйте SDK AIAgentree. Начните захватывать пакеты решений в точках принятия решений.
Установить рабочие процессы человеческого контроля
Определите очереди одобрения, процедуры обхода и пути эскалации в соответствии со Статьей 14.
Создать регуляторный ответный регламент
Документируйте, как вы будете реагировать на запрос аудита на 30 дней. Протестируйте поток ответа.
Что не охватывает этот пост
Границы имеют значение. Этот пост конкретно касается классификации высокого риска по статье 6. Он не охватывает:
- •Запрещенный ИИ (Статья 5) — если ваша система попадает под это определение, соблюдение невозможно
- •Регулирование ИИ в США — применяются различные рамки; смотрите наш гид по соблюдению норм в США
- •Полный закон ЕС о ИИ — статьи 7-86 охватывают многие другие требования
- •Юридическая консультация — это информационный контент, а не юридическая консультация
Часто задаваемые вопросы
Что такое статья 6 Закона ЕС о ИИ?
Статья 6 устанавливает правила классификации высокорисковых ИИ-систем в соответствии с Законом ЕС о ИИ. Она определяет, когда ИИ-система квалифицируется как 'высокий риск' на основе ее использования в областях, перечисленных в Приложении III (трудоустройство, кредит, здравоохранение, образование и т.д.), и устанавливает порог для обязательных требований по соблюдению, включая ведение журналов, прозрачность и человеческий контроль.
Когда вступает в силу статья 6 Закона ЕС о ИИ?
Требования к системам ИИ высокого риска в соответствии со статьей 6 должны быть выполнены до 2 декабря 2027 года для автономных систем из Приложения III, срок которых был перенесен с 2 августа 2026 года в рамках Цифрового Омнибуса по ИИ. Это основной срок соблюдения для организаций, внедряющих ИИ-агентов в категориях Приложения III. Некоторые положения (запрещенные практики) вступили в силу ранее, в феврале 2025 года.
Какие категории высокого риска указаны в Приложении III?
Приложение III определяет 8 категорий с высоким уровнем риска: (1) биометрия, (2) критическая инфраструктура, (3) образование/профессиональное обучение, (4) управление занятостью/работниками, (5) доступ к основным услугам (кредит, страхование, пособия), (6) правоохранительные органы, (7) миграция/убежище и (8) администрирование правосудия. ИИ-агенты, принимающие решения в этих областях, должны соответствовать полным требованиям статьи 6.
Что требует статья 6 для учета и прослеживаемости?
Статья 6 (и связанная статья 12) требует от систем ИИ высокого риска ведения автоматического журнала, который обеспечивает отслеживаемость решений. Это означает фиксацию того, что было решено, оснований для принятия решения, рассмотренных альтернатив, использованных доказательств и действий человеческого надзора — гораздо больше, чем журналы выполнения, которые только фиксируют вызовы API и временные метки.
Как отслеживание решений отличается от стандартного ведения журналов для соблюдения Закона ЕС об ИИ?
Стандартные журналы фиксируют, что произошло (вызовы API, временные метки, ошибки). Соответствие статье 6 требует отслеживаемости самого решения — почему оно было принято, какие доказательства его поддерживали, какие альтернативы рассматривались и кто несет ответственность. Отслеживание решений фиксирует это структурированное обоснование в виде проверяемых пакетов решений, которые соответствуют нормативным требованиям.
Каковы штрафы за несоблюдение статьи 6?
Несоблюдение требований к высокорисковым ИИ влечет за собой штрафы до 15 миллионов евро или 3% от глобального годового оборота, в зависимости от того, что больше. За самые серьезные нарушения (запрещенные практики) штрафы могут достигать 35 миллионов евро или 7% от оборота. Для компании с оборотом в 1 миллиард евро это означает потенциальные штрафы в размере 30-70 миллионов евро.
Применяется ли Закон ЕС о ИИ к компаниям за пределами ЕС?
Да. Закон ЕС о ИИ имеет экстерриториальное действие. Он применяется к любой организации, чьи системы ИИ размещены на рынке ЕС, чьи результаты ИИ используются в ЕС или чьи решения ИИ влияют на жителей ЕС — независимо от того, где зарегистрирована компания.
Как я могу подготовиться к соблюдению статьи 6?
Начните с 90-дневной программы готовности: (1) Проведите инвентаризацию ваших ИИ-агентов, (2) Классифицируйте применимость Приложения III, (3) Проведите аудит текущего ведения журналов в сравнении с требованиями к пакетам решений, (4) Разверните инфраструктуру отслеживания решений, (5) Установите рабочие процессы человеческого контроля, (6) Создайте руководства по реагированию на запросы регуляторов. AIAgentree предоставляет инфраструктуру, специально разработанную для соблюдения статьи 6.
Связанные темы
Связанные статьи
Решения ИИ требуют подтверждений: почему отслеживание решений является недостающим слоем в управлении ИИ
Каждая финансовая транзакция получает квитанцию. Каждый юридический контракт получает подпись. Но решения ИИ, которые влияют на миллионы людей? Невидимы. Отслеживание решений изменяет это, фиксируя ПРИЧИНУ каждого решения ИИ.
GraphRAG для ИИ-решений: Почему графы превосходят векторный поиск для памяти агентов
Вектор RAG по логам возвращает "суп из фрагментов" — разрозненные текстовые фрагменты, которые не содержат контраргументов, одобрений и прецедентов, которые сделали решение обоснованным. Когда решения хранятся в виде нормативного графа аргументов, извлечение возвращает вместо этого ограниченный, подлежащий аудиту Пакет Решений.
Что такое надежный ИИ?
Классификация высокого риска в соответствии со статьей 6 — это когда практики надежного ИИ, прозрачность, контроль и доказательства перестают быть необязательными.
Команда AIAgentree
Соблюдение норм ИИ
Команда AIAgentree создает инфраструктуру отслеживания решений для ИИ-агентов. Наша миссия — сделать рассуждения ИИ видимыми, подлежащими аудиту и улучшаемыми.
Декабрь 2027 года приближается.
Запланируйте 30-минутную проверку готовности статьи 6 с нашей командой по соблюдению норм. Мы оценим ваше текущее состояние и наметим путь к соблюдению.
Запланировать проверку готовности