0887 407 840 office@escert.com Стара Загора · София · Пловдив
BGEN

ПолезноISO/IEC 42001Информационна сигурност

ISO/IEC 42001 и AI Act: кога фирмата се нуждае от система за управление на изкуствения интелект

Изискванията на стандарта, новите срокове по AI Act и какво доказва сертификатът

ISO/IEC 42001 е първият международен стандарт за система за управление на изкуствения интелект: той изисква организацията да определи ролята си, да оцени рисковете и въздействието на ИИ системите, които разработва или използва, и да ги управлява през целия им жизнен цикъл. Регламентът за изкуствения интелект (AI Act) не изисква сертификат, но срещу задълженията му стандартът дава подредена и проверима система.

Евро Стандарт СертификацияЕкипът на ESCERT Публикувана
Обновена
6 мин.за четене
Екип около маса с лаптопи и бележки обсъжда проект

Какво е ISO/IEC 42001 и за кого е?

ISO/IEC 42001:2023 определя изискванията към система за управление на изкуствения интелект - правилата, ролите и процесите, с които една организация създава, внедрява и използва ИИ системи отговорно. Публикуван е през декември 2023 г. и следва структурата на високо ниво, обща за ISO 9001, ISO/IEC 27001 и останалите стандарти за системи за управление, затова се интегрира с тях.

Стандартът е за всяка организация, която има роля спрямо ИИ: разработчик или доставчик на модели и приложения, фирма, която внедрява ИИ в собствените си процеси или продукти, доставчик на данни, или организация, която използва ИИ системи на трети страни за решения, засягащи хора. Първата стъпка по стандарта е именно да определите своята роля - от нея зависят рисковете, задълженията и мерките.

  • Разработчици и доставчициФирми, които създават модели, приложения или услуги с ИИ за клиенти - включително като част от друг продукт.
  • Организации, които внедряват ИИИзползват ИИ за подбор на персонал, кредитни решения, обслужване на клиенти, медицински или технически анализи.
  • Доставчици на големи клиентиВсе по-често договорите с корпоративни и публични възложители искат доказателства за управление на риска от ИИ.
  • Фирми с износПартньорите извън България очакват познат, международен език за отговорност и контрол.

Какво изисква стандартът?

Както при другите стандарти за системи за управление, ръководството определя политика и цели, организацията оценява рисковете и планира мерки, осигурява ресурси и компетентност, прилага и измерва, одитира вътрешно и подобрява. Специфичното за ISO/IEC 42001 е в предмета: ИИ системите и техните ефекти върху хора, групи и общество.

  • Оценка на риска от ИИ - за всяка система: какви вреди може да причини, с каква вероятност, за кого; и третиране на риска с конкретни мерки.
  • Оценка на въздействието - документиран анализ на последиците от системата за отделните лица и обществото, включително справедливост, безопасност, поверителност и прозрачност.
  • Жизнен цикъл - изисквания и цели при проектирането, проверка и валидиране, внедряване, наблюдение в експлоатация и извеждане от употреба.
  • Управление на данните - произход, качество, подготовка и защита на данните за обучение и работа на системите.
  • Информация за заинтересованите страни - какво се съобщава на потребителите, клиентите и регулаторите, включително за инциденти.
  • Отговорно използване и трети страни - правила за употреба, човешки надзор и отговорности при доставчици и клиенти.

Мерките в приложение А на стандарта се подбират според оценката на риска и се документират в декларация за приложимост - по същия модел като ISO/IEC 27001. Затова организациите, които вече имат сертификат за информационна сигурност, внедряват ISO/IEC 42001 значително по-бързо.

AI Act: кои задължения и от кога?

Регламент (ЕС) 2024/1689 за изкуствения интелект е в сила от 1 август 2024 г. и се прилага поетапно. През 2026 г. Регламент (ЕС) 2026/1744 („Цифров омнибус за ИИ“) отложи сроковете за високорисковите системи, без да променя самите задължения.

  1. 2 февруари 2025 г.

    Забранените практики (чл. 5) и задължението за грамотност в областта на ИИ (чл. 4) - доставчиците и внедрителите осигуряват достатъчно познания на персонала, който работи с ИИ.

  2. 2 август 2025 г.

    Задълженията за доставчиците на модели с общо предназначение.

  3. 2 август 2026 г.

    Общото прилагане на регламента, включително задълженията за прозрачност по чл. 50 - чатботове, генерирано съдържание, дълбинни фалшификати.

  4. 2 декември 2027 г.

    Високорисковите системи по Приложение III - биометрия, критична инфраструктура, образование, заетост, достъп до основни услуги, правоприлагане, миграция, правосъдие.

  5. 2 август 2028 г.

    Високорисковите системи, вградени в продукти по Приложение I - машини, медицински изделия, асансьори, играчки, превозни средства и други регулирани продукти.

За високорисковите системи доставчиците трябва да имат система за управление на риска (чл. 9), управление на данните (чл. 10), техническа документация и записи (чл. 11 и 12), човешки надзор (чл. 14) и система за управление на качеството (чл. 17). Внедрителите ги използват според инструкциите, осигуряват надзор от компетентни хора и наблюдават работата им (чл. 26). Сериозните инциденти се докладват на органите по надзор на пазара (чл. 73).

Как ISO/IEC 42001 помага за AI Act?

Задължения по AI Act и къде ги покрива ISO/IEC 42001
AI ActISO/IEC 42001
Система за управление на качеството на доставчика (чл. 17)Цялата система за управление - политика, роли, процеси, документирана информация, вътрешен одит, преглед от ръководството
Управление на риска през целия жизнен цикъл (чл. 9)Оценка и третиране на риска от ИИ, оценка на въздействието, наблюдение в експлоатация
Управление на данните (чл. 10)Мерките за данните - произход, качество, подготовка, защита
Техническа документация и записи (чл. 11, 12)Документирана информация за всяка ИИ система и нейния жизнен цикъл
Човешки надзор (чл. 14) и задължения на внедрителите (чл. 26)Правила за отговорно използване, роли и компетентност, надзор
Грамотност в областта на ИИ (чл. 4)Компетентност и осведоменост на персонала (клаузи 7.2 и 7.3)
Докладване на сериозни инциденти (чл. 73)Процес за инциденти и информиране на заинтересованите страни

Важно уточнение: съответствието на високорисковите системи с регламента се доказва по неговите собствени правила - оценяване на съответствието, маркировка CE и, за част от системите, нотифициран орган. Сертификатът по ISO/IEC 42001 не замества тази процедура. Той доказва, че организацията има работеща система, която създава изискваните документи, оценки и контрол - основата, върху която съответствието се изгражда и поддържа.

Трябва ли ви сертификат по ISO/IEC 42001?

Сертификатът има смисъл, когато

  • Разработвате или доставяте ИИ продукти и услуги на клиенти.
  • Използвате ИИ за решения за хора - подбор, кредитиране, цени, медицина, сигурност.
  • Клиенти, възложители или партньори искат доказателства за управление на риска от ИИ.
  • Попадате в обхвата на високорисковите системи и искате система, готова за 2027-2028 г.

Още не е необходим, когато

  • Използвате ИИ само в офис инструменти, без решения, засягащи хора.
  • Нямате собствени ИИ системи и доставчиците ви носят отговорността за тях.
  • Все пак грамотността по чл. 4 и прозрачността по чл. 50 важат и за вас.
ПървоОпределете ролята и системите

Опишете всяка ИИ система, която използвате или предлагате, ролята си спрямо нея и дали попада в Приложение I или III на регламента.

ПослеОценете риска и въздействието

За системите с ефект върху хора направете оценка на риска и на въздействието - това е ядрото и на стандарта, и на регламента.

Как протича сертификацията по ISO/IEC 42001?

Както при останалите стандарти: одит на два етапа - преглед на документацията и готовността, след това проверка на прилагането на място; сертификат за три години с надзорни одити през втората и третата година. Организациите със сертификат по ISO/IEC 27001 могат да комбинират двата одита.

ISO/IEC 42001 е извън обхвата на акредитацията на CERTIND S.A. (RENAR SM 041). Сертификатът се издава без знак за акредитация - кажете ни, ако клиентът ви изисква акредитиран сертификат, за да прецените предварително дали той отговаря на целта ви.

Повече за стандарта - на страницата ISO/IEC 42001; за връзката между информационната сигурност и новите европейски правила - в статията NIS 2 в България и ISO/IEC 27001.

Сертификация по ISO/IEC 42001Оферта до два часа в работно времеЗаяви оферта

Въпроси за ISO/IEC 42001 и AI Act

Задължителен ли е ISO/IEC 42001 по AI Act?

Не. Регламентът не изисква сертификат по стандарт. ISO/IEC 42001 е доброволен стандарт, чиято система за управление покрива голяма част от задълженията на доставчиците и внедрителите - управление на риска, данни, документация, човешки надзор - и служи като доказателство пред клиенти и партньори.

От кога се прилагат задълженията за високорисковите ИИ системи?

След Регламент (ЕС) 2026/1744 задълженията за високорисковите системи по Приложение III се прилагат от 2 декември 2027 г., а за системите, вградени в регулирани продукти по Приложение I - от 2 август 2028 г. Общите разпоредби на регламента се прилагат от 2 август 2026 г.

Може ли фирма, която само използва ИИ, да се сертифицира по ISO/IEC 42001?

Да. Стандартът е приложим за всяка роля - разработчик, доставчик или организация, която използва ИИ системи. Обхватът на системата за управление се определя според ролята и системите, които организацията използва.

Акредитиран ли е сертификатът по ISO/IEC 42001 чрез ESCERT?

Не. ISO/IEC 42001 е извън обхвата на акредитацията на CERTIND S.A. (RENAR SM 041) и сертификатът се издава без знак за акредитация. Акредитираните стандарти са посочени на страницата за акредитацията.

Може ли ISO/IEC 42001 да се интегрира с ISO/IEC 27001?

Да. Двата стандарта имат една и съща структура, а мерките се подбират по оценка на риска и се документират в декларация за приложимост. Организация със сертификат по ISO/IEC 27001 може да разшири системата си и да комбинира одитите.

Безплатна предварителна оценка и оферта

Подредете изкуствения интелект във фирмата си

Опишете ИИ системите, които разработвате или използвате, и броя служители - ще получите оферта с обхват, срок на одита и цената с включени всички разходи.