Sei pronto per una sfida?

Dieci anni fa, la leggendaria partita di AlphaGo a Seoul ha segnato l'inizio dell'era moderna nell'AI. La sua famosa 'Mossa 37' ci ha segnalato che le tecniche di AI erano pronte ad affrontare problemi del mondo reale in aree come la scienza - e le idee ispirate da questi metodi sono fondamentali per costruire l'AGI.

Ecco un ripost di un post interno: Abbiamo lavorato con il DoW per apportare alcune aggiunte al nostro accordo per rendere i nostri principi molto chiari. 1. Modificheremo il nostro accordo per aggiungere questo linguaggio, oltre a tutto il resto: "• In conformità con le leggi applicabili, incluso il Quarto Emendamento della Costituzione degli Stati Uniti, il National Security Act del 1947, il FISA Act del 1978, il sistema AI non sarà intenzionalmente utilizzato per la sorveglianza domestica di persone e cittadini statunitensi. • Per evitare dubbi, il Dipartimento comprende che questa limitazione proibisce il tracciamento, la sorveglianza o il monitoraggio deliberato di persone o cittadini statunitensi, incluso attraverso l'acquisto o l'uso di informazioni personali o identificabili acquisite commercialmente." È fondamentale proteggere le libertà civili degli americani, e c'è stata così tanta attenzione su questo, che volevamo rendere questo punto particolarmente chiaro, anche riguardo alle informazioni acquisite commercialmente. Proprio come tutto ciò che facciamo con il dispiegamento iterativo, continueremo a imparare e affinare man mano che procediamo. Penso che questo sia un cambiamento importante; il nostro team e il team del DoW hanno fatto un ottimo lavoro su questo. 2. Il Dipartimento ha anche confermato che i nostri servizi non saranno utilizzati dalle agenzie di intelligence del Dipartimento della Guerra (ad esempio, la NSA). Qualsiasi servizio a quelle agenzie richiederebbe una modifica successiva al nostro contratto. 3. Per estrema chiarezza: vogliamo lavorare attraverso processi democratici. Dovrebbe essere il governo a prendere le decisioni chiave sulla società. Vogliamo avere una voce e un posto al tavolo dove possiamo condividere la nostra esperienza e combattere per i principi di libertà. Ma siamo chiari su come funziona il sistema (perché molte persone hanno chiesto, se ricevessi quello che credo fosse un ordine incostituzionale, ovviamente preferirei andare in prigione piuttosto che seguirlo). Ma 4. Ci sono molte cose per cui la tecnologia non è ancora pronta, e molte aree in cui non comprendiamo ancora i compromessi richiesti per la sicurezza. Lavoreremo su questi, lentamente, con il DoW, con salvaguardie tecniche e altri metodi. 5. Una cosa che penso di aver fatto male: non avremmo dovuto affrettarci a pubblicare questo venerdì. Le questioni sono super complesse e richiedono una comunicazione chiara. Stavamo genuinamente cercando di disinnescare le cose e di evitare un esito molto peggiore, ma penso che sia sembrato opportunistico e disordinato. Buona esperienza di apprendimento per me mentre affrontiamo decisioni con maggiori rischi in futuro. Nelle mie conversazioni durante il fine settimana, ho ribadito che Anthropic non dovrebbe essere designato come SCR, e che speriamo che il DoW offra loro gli stessi termini a cui abbiamo concordato. Ospiteremo un All Hands domani mattina per rispondere a ulteriori domande.