Jste připraveni na výzvu?

Před deseti lety legendární zápas AlphaGo v Soulu znamenal začátek moderní éry AI. Jeho slavný 'Move 37' nám naznačil, že AI techniky jsou připraveny řešit reálné problémy v oblastech jako je věda – a myšlenky inspirované těmito metodami jsou klíčové pro budování AGI

Zde je přepis interního příspěvku: Spolupracujeme s DoW na některých změnách v naší dohodě, které jasně stanoví naše principy. 1. Plánujeme upravit naši dohodu a přidat tuto formulaci, kromě všeho ostatního: "• V souladu s platnými zákony, včetně Čtvrtého dodatku Ústavy Spojených států, zákona o národní bezpečnosti z roku 1947, zákona FISA z roku 1978, nesmí být systém AI úmyslně používán pro domácí sledování osob a občanů USA. • Pro předejít pochybnostem ministerstvo chápe toto omezení jako zákaz úmyslného sledování, sledování nebo monitorování osob nebo státních příslušníků USA, včetně získávání nebo využívání komerčně získaných osobních nebo identifikovatelných údajů." Je zásadní chránit občanské svobody Američanů, a bylo tomu věnováno tolik pozornosti, že jsme chtěli tento bod zdůraznit obzvlášť jasně, včetně informací získaných komerčně. Stejně jako u všeho, co děláme s iterativním nasazením, budeme se dál učit a zdokonalovat, jak budeme postupovat. Myslím, že je to důležitá změna; náš tým a tým DoW odvedli skvělou práci. 2. Ministerstvo také potvrdilo, že naše služby nebudou využívány zpravodajskými agenturami Ministerstva války (například NSA). Jakékoliv služby těmto agenturám by vyžadovaly následnou úpravu naší smlouvy. 3. Pro maximální jasnost: chceme pracovat prostřednictvím demokratických procesů. Klíčová rozhodnutí o společnosti by měla činit vláda. Chceme mít hlas a místo u stolu, kde můžeme sdílet naše odborné znalosti a bojovat za principy svobody. Ale máme jasno, jak systém funguje (protože se mnoho lidí ptalo, pokud jsem obdržel to, co jsem považoval za protiústavní, samozřejmě bych raději šel do vězení, než abych ho dodržoval). Ale 4. Existuje mnoho věcí, na které technologie není připravená, a v mnoha oblastech ještě nechápeme, jaké kompromisy jsou pro bezpečnost nutné. Tyto kroky budeme řešit pomalu s DoW, pomocí technických opatření a dalších metod. 5. Jedna věc si myslím, že jsem udělal špatně: neměli jsme spěchat s tím, abychom to vydali v pátek. Problémy jsou velmi složité a vyžadují jasnou komunikaci. Opravdu jsme se snažili situaci uklidnit a vyhnout se mnohem horšímu výsledku, ale myslím, že to vypadalo oportunisticky a nedbale. Byla to pro mě dobrá zkušenost, protože nás čekají rozhodnutí s vyššími sázkami v budoucnu. Ve svých víkendových rozhovorech jsem zopakoval, že Anthropic by neměl být označen jako SCR a že doufáme, že DoW jim nabídne stejné podmínky, na kterých jsme se dohodli. Zítra ráno uspořádáme All Hands Meeting, kde odpovíme na další otázky.