Додаток III. Системи ШІ з високим рівнем ризику: Керівництво з класифікації відповідно до статті 6

Що робить систему ШІ системою з високим рівнем ризику?

Стаття 6 створює два незалежних шляхи. Відповідність будь-якому з них робить систему системою з високим рівнем ризику, що активує повну документацію з Додатку IV, контроль відповідно до статей 9–15 і зобов’язання щодо відповідності.

Два шляхи: Стаття 6(1) охоплює ШІ, що використовується як компоненти безпеки в регульованих продуктах. Стаття 6(2) + Додаток III охоплює автономні системи ШІ у восьми конкретних категоріях випадків використання.

Шлях 1: Компоненти безпеки (стаття 6(1))

Якщо ваш ШІ є компонентом безпеки продукту, на який поширюється законодавство ЄС у відповідній галузі (медичні вироби, транспортні засоби, машини, ліфти, іграшки тощо), або сам є таким продуктом, він автоматично вважається системою з високим рівнем ризику.

Оцінка відповідності повинна проводитися уповноваженим органом.

Шлях 2: Категорії випадків використання з Додатку III (стаття 6(2))

Вісім категорій випадків використання активують класифікацію як систему з високим рівнем ризику незалежно від основної технології:

• Біометрія: Системи віддаленої біометричної ідентифікації та розпізнавання емоцій
• Критична інфраструктура: ШІ в енергетиці, водопостачанні, газопостачанні, опаленні та цифровій інфраструктурі
• Освіта: ШІ для оцінювання учнів, перевірки екзаменаційних робіт і аналізу навчання
• Зайнятість: Перевірка резюме, аналіз співбесід, розподіл завдань, оцінка ефективності, прийняття рішень про звільнення
• Основні послуги: Кредитний скоринг, схвалення кредитів, ціноутворення на страхування, відправлення екстрених служб
• Правоохоронні органи: Оцінка ризиків, поліграф, оцінка доказів, складання профілів
• Міграція та притулок: Заявки на візи, розгляд питань про надання притулку, прикордонний контроль
• Правосуддя: Допомога у винесенні вироків, прогнозування результатів судових справ, юридичні дослідження

Виняток, передбачений статтею 6(3)

Система штучного інтелекту, що підпадає під дію Додатка III, може бути звільнена від вимог, якщо вона не становить значного ризику для здоров’я, безпеки або основних прав.

До визнаних випадків належать вузькоспеціалізовані процедурні завдання, покращення результатів попередньо виконаної людиною діяльності, виявлення моделей прийняття рішень без заміни людської оцінки або підготовчі завдання для подальшого прийняття рішень людиною. Профілювання завжди є високоризиковою діяльністю. Виняток ніколи не застосовується, якщо система виконує профілювання фізичних осіб.

Якщо ви заявляєте про застосування винятку, ретельно документуйте обґрунтування. Регуляторні органи можуть оскаржити це.

Вимоги до документації у випадку високого ризику

Системи штучного інтелекту з високим рівнем ризику повинні підтримувати повну документацію про відповідність:

• Технічна документація, передбачена Додатком IV
• Система управління ризиками, передбачена статтею 9
• Документація щодо управління даними, передбачена статтею 10
• Ведення журналу в процесі експлуатації, передбачене статтею 12
• Дизайн системи людського контролю, передбачений статтею 14
• Оцінка відповідності + маркування CE
• Реєстрація в базі даних ЄС щодо штучного інтелекту