Czy jesteś gotowy na wyzwanie?

Dziesięć lat temu legendarna partia AlphaGo w Seulu zapoczątkowała nową erę w AI. Jego słynny 'Ruch 37' dał nam do zrozumienia, że techniki AI są gotowe do rozwiązywania problemów ze świata rzeczywistego w takich dziedzinach jak nauka - a pomysły inspirowane tymi metodami są kluczowe dla budowy AGI.

Oto powtórka wewnętrznego posta: Pracowaliśmy z DoW nad wprowadzeniem kilku zmian w naszej umowie, aby nasze zasady były bardzo jasne. 1. Zmienimy naszą umowę, aby dodać ten zapis, oprócz wszystkiego innego: "• Zgodnie z obowiązującymi przepisami prawa, w tym Czwartą Poprawką do Konstytucji Stanów Zjednoczonych, Ustawą o Bezpieczeństwie Narodowym z 1947 roku, Ustawą FISA z 1978 roku, system AI nie może być celowo wykorzystywany do krajowej inwigilacji obywateli i narodów USA. • Dla uniknięcia wątpliwości, Departament rozumie to ograniczenie jako zakaz celowego śledzenia, inwigilacji lub monitorowania obywateli lub narodów USA, w tym poprzez pozyskiwanie lub wykorzystywanie komercyjnie nabytych informacji osobistych lub identyfikowalnych." Ochrona praw obywatelskich Amerykanów jest kluczowa, a ponieważ tak wiele uwagi poświęcono temu tematowi, chcieliśmy to szczególnie wyraźnie zaznaczyć, w tym w odniesieniu do komercyjnie nabytych informacji. Tak jak w przypadku wszystkiego, co robimy w ramach iteracyjnego wdrażania, będziemy nadal uczyć się i udoskonalać w miarę postępu. Uważam, że to ważna zmiana; nasz zespół i zespół DoW wykonali świetną robotę, pracując nad tym. 2. Departament również potwierdził, że nasze usługi nie będą wykorzystywane przez agencje wywiadowcze Departamentu Wojny (na przykład NSA). Jakiekolwiek usługi dla tych agencji wymagałyby późniejszej modyfikacji naszej umowy. 3. Dla skrajnej jasności: chcemy działać w ramach demokratycznych procesów. To rząd powinien podejmować kluczowe decyzje dotyczące społeczeństwa. Chcemy mieć głos i miejsce przy stole, gdzie możemy dzielić się naszą wiedzą i walczyć o zasady wolności. Ale jesteśmy świadomi, jak działa system (ponieważ wiele osób pytało, co bym zrobił, gdybym otrzymał to, co uważałem za niekonstytucyjne polecenie, oczywiście wolałbym iść do więzienia niż je wykonać). Ale 4. Jest wiele rzeczy, do których technologia po prostu nie jest jeszcze gotowa, i wiele obszarów, w których jeszcze nie rozumiemy wymaganych kompromisów dla bezpieczeństwa. Będziemy przez to przechodzić powoli, z DoW, z technicznymi zabezpieczeniami i innymi metodami. 5. Jedna rzecz, którą uważam, że zrobiłem źle: nie powinniśmy się spieszyć, aby to opublikować w piątek. Problemy są bardzo złożone i wymagają jasnej komunikacji. Naprawdę staraliśmy się deeskalować sytuację i uniknąć znacznie gorszego wyniku, ale myślę, że to po prostu wyglądało na oportunistyczne i niechlujne. Dobre doświadczenie edukacyjne dla mnie, gdy stajemy przed decyzjami o wyższej stawce w przyszłości. W moich rozmowach w weekend powtórzyłem, że Anthropic nie powinien być wyznaczony jako SCR i mamy nadzieję, że DoW zaoferuje im te same warunki, na które się zgodziliśmy. Jutro rano zorganizujemy spotkanie All Hands, aby odpowiedzieć na więcej pytań.