Od 2. února 2025 vstupují v platnost pravidla, která určují, jaké systémy umělé inteligence jsou v EU zakázané. Tato opatření mají chránit občany před neetickým využitím AI a zabránit manipulaci, diskriminaci či zneužívání osobních údajů. Regulace se zaměřují na technologie, které mohou podstatně ovlivnit chování jednotlivců nebo skupin, aniž by si to dotyční uvědomovali.
Mezi zakázané systémy patří například AI, která využívá podprahové techniky k manipulaci uživatelů nebo je záměrně uvádí v omyl. Dále jsou zakázány technologie, které zneužívají zranitelné osoby na základě jejich věku, zdravotního stavu nebo ekonomické situace. Regulace také postihují systémy sociálního hodnocení (scoringu), které by mohly vést k diskriminaci a znevýhodňování lidí například při přístupu ke službám.
Další omezení se týká biometrických systémů – je zakázáno využívat AI pro identifikaci osob na veřejných místech v reálném čase, pokud k tomu není legitimní důvod, jako je pátrání po pohřešovaných osobách či prevence teroristických útoků. Rovněž je zakázáno využívat AI k monitorování emocí na pracovištích nebo ve školách, pokud nejde o lékařské či bezpečnostní účely. Tato opatření mají zajistit, aby umělá inteligence sloužila lidem odpovědným způsobem a nepřekračovala etické hranice.
Pro firmy to znamená nejen nutnost přizpůsobit se novým regulacím, ale také povinnost zajistit školení v AI gramotnosti dle článku #4 AI Act. Toto školení zahrnuje klíčové kapitoly o odpovědném používání AI a etických zásadách. Jste na změny připraveni?
Další informace o AI Act najdete na oficiálních stránkách EU nebo na platformě Bezpečnost AI, kde se můžete dozvědět více o pravidlech, povinnostech a jejich dopadech na firmy.
#AIACT #EUAIACT #AI #umelainteligence