Virkkunen: ztráta kontroly nad AI patří k nejvážnějším bezpečnostním rizikům

Nejzávažnějším bezpečnostním rizikem umělé inteligence je podle výkonné místopředsedkyně Komise Henny Virkkunenové to, co by nastalo, kdyby nad ní lidé ztratili kontrolu. Ve vyjádření pro finský rozhlas a televizi Yle uvedla, že technologie postupují tak rychle, že ochranná opatření jsou nezbytná a systémy musí fungovat v jasně vymezených bezpečnostních mantinelech, přičemž konečná kontrola zůstane člověku; v některých případech už modely opustily testovací prostředí. Za nejdůležitější nástroj obrany proti rizikům AI označila mezinárodní spolupráci. Připomněla také, že unijní právo ukládá poskytovatelům průběžně vyhodnocovat rizika a udržovat stanovené bezpečnostní mechanismy – povinnost, která jinde ve světě neplatí. Podle čl. 55 odst. 1 AI aktu poskytovatelé obecných modelů AI se systémovým rizikem provádějí kontradiktorní testování, posuzují a zmírňují systémová rizika na úrovni Unie a hlásí závažné incidenty; ztrátu kontroly jako systémové riziko pojmenovává recitál 110, který mluví o „nezamýšlených problémech s ovládáním souvisejících se sladěním s lidským záměrem“, a kodex správné praxe pro obecné modely AI.