infinitelaws
Novinky

Amodei vyzval ke zpomalení, Altman a Musk se připojili

Dario Amodei, CEO Anthropicu, zveřejnil esej „We Must Pace the Frontier“ s tezí, že je třeba zpomalit tempo, jímž se zvyšují schopnosti modelů AI. Navrhuje tři kroky: aby každá společnost, která vyvíjí modely AI na hranici současných možností (frontier AI company), dala nezávislému týmu trvalý přístup na úrovni zaměstnance včetně práva zveřejnit zjištění bez redakční kontroly této společnosti, dále společné bezpečnostní standardy mezi demokratickými státy a posléze mezinárodní limity pro nejnebezpečnější schopnosti, jako je rekurzivní sebezlepšování. Sam Altman za OpenAI na X prohlásil, že s Amodeim souhlasí, že závazek k nezávislým hodnotitelům s přístupem na úrovni zaměstnance je dobrý nápad a že OpenAI udělá totéž; souhlas vyjádřil i Elon Musk za xAI a Demis Hassabis za Google DeepMind.

Oficiální zdroj ↗

Další novinky