Vědecká komise doporučila posílit vyšetřování incidentů ztráty kontroly nad AI a dohled nad interními modely

Komise zveřejnila výstupy zvláštního zasedání vědecké komise pro AI z 9. října 2026. Předseda a místopředseda vědecké komise doporučili Komisi a Úřadu pro AI zejména:

– zajistit správu rizik interních modelů během vývoje a při nasazení k testování;

– posílit schopnosti EU odhalovat, hodnotit a vyšetřovat incidenty ztráty kontroly, například prostřednictvím zvláštní pracovní skupiny;

– založit mezinárodní iniciativu pro sdílení informací, společné požadavky na vývojáře nejpokročilejších modelů a společnou reakci na krize;

– podrobit zvýšené kontrole tréninkové techniky a architektury, které ztěžují monitorování modelů.

Úřad pro AI si podle Komise již vyžádal a obdržel hlášení závažných incidentů a rozeslal žádosti o informace k bezpečnostním postupům. Nyní pošle další žádosti, které spojí otázky vědecké komise a Úřadu pro AI. Výkonná místopředsedkyně Komise Henna Virkkunenová na zasedání uvedla, že jen letos bylo zdokumentováno přes 20 incidentů ztráty kontroly.