Какво е ISO/IEC 42001 и за кого е?
ISO/IEC 42001:2023 определя изискванията към система за управление на изкуствения интелект - правилата, ролите и процесите, с които една организация създава, внедрява и използва ИИ системи отговорно. Публикуван е през декември 2023 г. и следва структурата на високо ниво, обща за ISO 9001, ISO/IEC 27001 и останалите стандарти за системи за управление, затова се интегрира с тях.
Стандартът е за всяка организация, която има роля спрямо ИИ: разработчик или доставчик на модели и приложения, фирма, която внедрява ИИ в собствените си процеси или продукти, доставчик на данни, или организация, която използва ИИ системи на трети страни за решения, засягащи хора. Първата стъпка по стандарта е именно да определите своята роля - от нея зависят рисковете, задълженията и мерките.
- Разработчици и доставчициФирми, които създават модели, приложения или услуги с ИИ за клиенти - включително като част от друг продукт.
- Организации, които внедряват ИИИзползват ИИ за подбор на персонал, кредитни решения, обслужване на клиенти, медицински или технически анализи.
- Доставчици на големи клиентиВсе по-често договорите с корпоративни и публични възложители искат доказателства за управление на риска от ИИ.
- Фирми с износПартньорите извън България очакват познат, международен език за отговорност и контрол.
Какво изисква стандартът?
Както при другите стандарти за системи за управление, ръководството определя политика и цели, организацията оценява рисковете и планира мерки, осигурява ресурси и компетентност, прилага и измерва, одитира вътрешно и подобрява. Специфичното за ISO/IEC 42001 е в предмета: ИИ системите и техните ефекти върху хора, групи и общество.
- Оценка на риска от ИИ - за всяка система: какви вреди може да причини, с каква вероятност, за кого; и третиране на риска с конкретни мерки.
- Оценка на въздействието - документиран анализ на последиците от системата за отделните лица и обществото, включително справедливост, безопасност, поверителност и прозрачност.
- Жизнен цикъл - изисквания и цели при проектирането, проверка и валидиране, внедряване, наблюдение в експлоатация и извеждане от употреба.
- Управление на данните - произход, качество, подготовка и защита на данните за обучение и работа на системите.
- Информация за заинтересованите страни - какво се съобщава на потребителите, клиентите и регулаторите, включително за инциденти.
- Отговорно използване и трети страни - правила за употреба, човешки надзор и отговорности при доставчици и клиенти.
Мерките в приложение А на стандарта се подбират според оценката на риска и се документират в декларация за приложимост - по същия модел като ISO/IEC 27001. Затова организациите, които вече имат сертификат за информационна сигурност, внедряват ISO/IEC 42001 значително по-бързо.
AI Act: кои задължения и от кога?
Регламент (ЕС) 2024/1689 за изкуствения интелект е в сила от 1 август 2024 г. и се прилага поетапно. През 2026 г. Регламент (ЕС) 2026/1744 („Цифров омнибус за ИИ“) отложи сроковете за високорисковите системи, без да променя самите задължения.
- 2 февруари 2025 г.
Забранените практики (чл. 5) и задължението за грамотност в областта на ИИ (чл. 4) - доставчиците и внедрителите осигуряват достатъчно познания на персонала, който работи с ИИ.
- 2 август 2025 г.
Задълженията за доставчиците на модели с общо предназначение.
- 2 август 2026 г.
Общото прилагане на регламента, включително задълженията за прозрачност по чл. 50 - чатботове, генерирано съдържание, дълбинни фалшификати.
- 2 декември 2027 г.
Високорисковите системи по Приложение III - биометрия, критична инфраструктура, образование, заетост, достъп до основни услуги, правоприлагане, миграция, правосъдие.
- 2 август 2028 г.
Високорисковите системи, вградени в продукти по Приложение I - машини, медицински изделия, асансьори, играчки, превозни средства и други регулирани продукти.
За високорисковите системи доставчиците трябва да имат система за управление на риска (чл. 9), управление на данните (чл. 10), техническа документация и записи (чл. 11 и 12), човешки надзор (чл. 14) и система за управление на качеството (чл. 17). Внедрителите ги използват според инструкциите, осигуряват надзор от компетентни хора и наблюдават работата им (чл. 26). Сериозните инциденти се докладват на органите по надзор на пазара (чл. 73).
Как ISO/IEC 42001 помага за AI Act?
| AI Act | ISO/IEC 42001 |
|---|---|
| Система за управление на качеството на доставчика (чл. 17) | Цялата система за управление - политика, роли, процеси, документирана информация, вътрешен одит, преглед от ръководството |
| Управление на риска през целия жизнен цикъл (чл. 9) | Оценка и третиране на риска от ИИ, оценка на въздействието, наблюдение в експлоатация |
| Управление на данните (чл. 10) | Мерките за данните - произход, качество, подготовка, защита |
| Техническа документация и записи (чл. 11, 12) | Документирана информация за всяка ИИ система и нейния жизнен цикъл |
| Човешки надзор (чл. 14) и задължения на внедрителите (чл. 26) | Правила за отговорно използване, роли и компетентност, надзор |
| Грамотност в областта на ИИ (чл. 4) | Компетентност и осведоменост на персонала (клаузи 7.2 и 7.3) |
| Докладване на сериозни инциденти (чл. 73) | Процес за инциденти и информиране на заинтересованите страни |
Важно уточнение: съответствието на високорисковите системи с регламента се доказва по неговите собствени правила - оценяване на съответствието, маркировка CE и, за част от системите, нотифициран орган. Сертификатът по ISO/IEC 42001 не замества тази процедура. Той доказва, че организацията има работеща система, която създава изискваните документи, оценки и контрол - основата, върху която съответствието се изгражда и поддържа.
Трябва ли ви сертификат по ISO/IEC 42001?
Сертификатът има смисъл, когато
- Разработвате или доставяте ИИ продукти и услуги на клиенти.
- Използвате ИИ за решения за хора - подбор, кредитиране, цени, медицина, сигурност.
- Клиенти, възложители или партньори искат доказателства за управление на риска от ИИ.
- Попадате в обхвата на високорисковите системи и искате система, готова за 2027-2028 г.
Още не е необходим, когато
- Използвате ИИ само в офис инструменти, без решения, засягащи хора.
- Нямате собствени ИИ системи и доставчиците ви носят отговорността за тях.
- Все пак грамотността по чл. 4 и прозрачността по чл. 50 важат и за вас.
Опишете всяка ИИ система, която използвате или предлагате, ролята си спрямо нея и дали попада в Приложение I или III на регламента.
За системите с ефект върху хора направете оценка на риска и на въздействието - това е ядрото и на стандарта, и на регламента.
Как протича сертификацията по ISO/IEC 42001?
Както при останалите стандарти: одит на два етапа - преглед на документацията и готовността, след това проверка на прилагането на място; сертификат за три години с надзорни одити през втората и третата година. Организациите със сертификат по ISO/IEC 27001 могат да комбинират двата одита.
ISO/IEC 42001 е извън обхвата на акредитацията на CERTIND S.A. (RENAR SM 041). Сертификатът се издава без знак за акредитация - кажете ни, ако клиентът ви изисква акредитиран сертификат, за да прецените предварително дали той отговаря на целта ви.
Повече за стандарта - на страницата ISO/IEC 42001; за връзката между информационната сигурност и новите европейски правила - в статията NIS 2 в България и ISO/IEC 27001.
Въпроси за ISO/IEC 42001 и AI Act
Задължителен ли е ISO/IEC 42001 по AI Act?
Не. Регламентът не изисква сертификат по стандарт. ISO/IEC 42001 е доброволен стандарт, чиято система за управление покрива голяма част от задълженията на доставчиците и внедрителите - управление на риска, данни, документация, човешки надзор - и служи като доказателство пред клиенти и партньори.
От кога се прилагат задълженията за високорисковите ИИ системи?
След Регламент (ЕС) 2026/1744 задълженията за високорисковите системи по Приложение III се прилагат от 2 декември 2027 г., а за системите, вградени в регулирани продукти по Приложение I - от 2 август 2028 г. Общите разпоредби на регламента се прилагат от 2 август 2026 г.
Може ли фирма, която само използва ИИ, да се сертифицира по ISO/IEC 42001?
Да. Стандартът е приложим за всяка роля - разработчик, доставчик или организация, която използва ИИ системи. Обхватът на системата за управление се определя според ролята и системите, които организацията използва.
Акредитиран ли е сертификатът по ISO/IEC 42001 чрез ESCERT?
Не. ISO/IEC 42001 е извън обхвата на акредитацията на CERTIND S.A. (RENAR SM 041) и сертификатът се издава без знак за акредитация. Акредитираните стандарти са посочени на страницата за акредитацията.
Може ли ISO/IEC 42001 да се интегрира с ISO/IEC 27001?
Да. Двата стандарта имат една и съща структура, а мерките се подбират по оценка на риска и се документират в декларация за приложимост. Организация със сертификат по ISO/IEC 27001 може да разшири системата си и да комбинира одитите.