Komise představila EU KIDS Act: pravidla bezpečného designu míří i na AI společníky a chatboty

Komise představila návrh nařízení EU KIDS Act (COM(2026) 681), podle něhož nesmějí mít děti do 13 let účet na sociálních sítích (výjimkou je omezený přístup k videoslužbám určeným dětem přes účet rodiče), od 13 do 15 let mohou mít jen účet pod kontrolou rodičů a samostatný účet si mohou založit až od 15 let.

Pravidla bezpečného designu se vztahují na sociální sítě, videoplatformy, online hry i AI společníky a chatboty, pokud jsou dostupné osobám mladším 18 let. U nezletilých návrh zakazuje prvky podporující nutkavé nebo nadměrné používání: nekonečné automatické přehrávání a nekonečné posouvání bez skutečných přestávek, oznámení, jejichž účelem je dítě vrátit do služby, odměny za publikování či vysílání masovému publiku a mechaniky „streaků“, které dítě trestají, když se nevrací každý den. Doporučovací systémy mají být u nezletilých nastaveny na bezpečnost a duševní zdraví, nikoli na maximalizaci zapojení, a personalizace založená na sledování má být ve výchozím stavu vypnutá.

AI společníci a chatboti mají být ve výchozím stavu vypnutí a nesmějí napodobovat vztahy, které vytvářejí emoční závislost. Před uvedením na trh se musí otestovat jejich rizika pro děti. U chatbotů se dozor opírá o AI akt, u platforem o DSA. Důkazní břemeno nesou velmi velké online platformy (VLOP).

Online služby a obchody s aplikacemi mají používat nástroje pro ověřování věku; prohlášení uživatele o věku už nestačí. Sociální sítě a videoplatformy ověří věk při zakládání nového účtu, u stávajících účtů jej odhadnou podle přiměřených ukazatelů (např. data založení účtu nebo údajů o platební kartě). K ověření lze využít unijní aplikaci pro ověřování věku, později i evropskou peněženku digitální identity. Aplikace neuchovává doklady totožnosti ani biometrické údaje a platformě sdělí jen to, zda uživatel danou věkovou hranici splňuje; obchody s aplikacemi ji musejí nabízet. Každý členský stát má zajistit alespoň jeden bezplatný způsob prokázání věku.

Návrh nyní projednají Evropský parlament a Rada. Podle Komise je nezbytné nařízení přijmout co nejrychleji.