OpenAI оновлює свою угоду про DoW, проводить чітку межу і визнає, що запуск був поспішним і погано повідомленим. Зобов'язання на рівні угоди > Жодного внутрішнього спостереження за громадянами США. > Відстеження за допомогою комерційно придбаних персональних даних заборонено. > Немає сенсу для таких розвідувальних агентств, як АНБ, без нового контракту. > Немає дотримання неконституційних наказів. > Повільніше і обережніше розгортати, бо технологія ще не готова до всього.
Sam Altman
Sam Altman22 години тому
Ось повторний пост внутрішнього допису: Ми працюємо з DoW, щоб внести деякі доповнення до нашої угоди, щоб чітко визначити наші принципи. 1. Ми внесемо зміни до нашої угоди, додавши цю формулювання, а також усе інше: "• Відповідно до чинних законів, включно з Четвертою поправкою до Конституції США, Законом про національну безпеку 1947 року, Законом про FISA 1978 року, система ШІ не повинна навмисно використовуватися для внутрішнього спостереження за громадянами та громадянами США. • Для уникнення сумнівів Міністерство розуміє це обмеження як заборону навмисного відстеження, спостереження або моніторингу громадян США, зокрема через закупівлю або використання комерційно отриманої особистої або ідентифікованої інформації.» Критично важливо захищати громадянські свободи американців, і на цьому було так багато уваги, що ми хотіли зробити це особливо чітким, зокрема щодо комерційно отриманої інформації. Як і все, що ми робимо з ітеративним розгортанням, ми будемо продовжувати вчитися і вдосконалюватися в процесі. Я вважаю, що це важлива зміна; наша команда та команда DoW чудово попрацювали над цим. 2. Департамент також підтвердив, що наші послуги не будуть використовуватися розвідувальними агентствами Міністерства війни (наприклад, АНБ). Будь-які послуги для цих агентств вимагатимуть подальшої зміни до нашого контракту. 3. Для максимальної ясності: ми хочемо працювати через демократичні процеси. Ключові рішення щодо суспільства мають приймати уряд. Ми хочемо мати голос і місце за столом, де можемо поділитися своїм досвідом і боротися за принципи свободи. Але ми чітко розуміємо, як працює система (бо багато хто запитував: якщо я отримаю, на мою думку, неконституційний наказ, звісно, я краще піду до в'язниці, ніж підтримаю його). Але 4. Є багато речей, до яких технологія просто не готова, і багато сфер, у яких ми ще не розуміємо компромісів, необхідних для безпеки. Ми будемо працювати над цим повільно разом із DoW, з технічними гарантіями та іншими методами. 5. Одне, що, здається, я зробив не так: не варто було поспішати з цим у п'ятницю. Питання дуже складні і вимагають чіткої комунікації. Ми щиро намагалися деескалувати ситуацію і уникнути набагато гіршого результату, але, на мою думку, це виглядало як опортуністично і недбало. Для мене це хороший досвід навчання, адже ми стикаємося з більш серйозними рішеннями в майбутньому. У своїх розмовах на вихідних я ще раз наголосив, що Anthropic не повинен отримувати статус SCR, і що ми сподіваємося, що DoW запропонує їм ті ж умови, на які ми погодилися. Завтра вранці ми проведемо захід All Hands, щоб відповісти на додаткові запитання.
Особистий погляд Сема Олтмана: > демократичний контроль має залишатися за урядами та людьми, а не приватними компаніями. > ШІ має бути демократизований, щоб люди отримували владу, а не втрачали її. > Захист приватності є незаперечним стовпом демократії. > Ітеративне впровадження є критично важливим, щоб суспільство могло адаптуватися під час розвитку технологій. > Широка громадська освіта щодо ШІ є нагальною, щоб демократія могла не відставати. > OpenAI має відповідальність відкрито говорити про ризики, обмеження та переваги. > Співпраця з урядами необхідна, але слід уникати панічних або радикальних дій. > Реальні загрози існують, і рішення ШІ оцінюватимуться за шкодою, яку вони допомагають запобігти або не можуть запобігти.
59