Çoğu yapay zeka sağlayıcısı verilerinizi onlara emanet etmenizi ister. Kendimizi denklemden çıkardık. Bugün Chutes üzerinden yapay zeka çıkarımı için uçtan uca şifreleme gönderiyoruz. İşte bunun aslında ne anlama geldiği:

İstemleriniz makinenizde, doğrudan Güvenilir Yürütme Ortamı içinde çalışan belirli GPU örneğine şifrelenir. Şifreli metin API'mizden ve yük dengeleyicilerimizden geçer, ancak onlar kelimenin tam anlamıyla okuyamıyor. Kimse yapamaz. Ağ değil. Biz değil. Donanımı çalıştıran madenciler değil. Anahtar değişimi, HKDF-SHA256 ve ChaCha20-Poly1305 ile birlikte NIST standartlaştırılmış kuantum sonrası anahtar kapsülleme mekanizması olan ML-KEM 768'i kullanır. TEE örnekleri bir ML-KEM açık anahtarı yayımlar ve her istek, ileri gizlilik için yeni geçici bir istemci anahtar çifti kullanır. Bugün biri her paketi ele geçirse bile, gelecekteki kuantum bilgisayarlar onları çözemezdi.

İnşaatçılar için önemli olan kısım: Bunu kullanmanın iki yolu var, kurulumunuza bağlı olarak. OpenAI Python SDK kullanıyorsanız, chutes-e2ee'yi pip install ve özel taşımayı istemcinize aktarın. Temel URL'niz aynı kalabilir ve şifreleme HTTP katmanında şeffaf şekilde gerçekleşir, sadece minimum istemci kablolaması.

Başka bir istemci platformu kullanıyorsanız, e2ee-proxy Docker konteynerimizi yerel olarak çalıştırın ve istemcinizi ona yönlendirin. Hem OpenAI uyumlu API'leri destekler; Codex gibi araçlar tarafından kullanılan yeni Responses API spesifikasyonu ve Claude tarzı istemciler için Anthropic'in Messages API spesifikasyonu dahildir. Proxy, format çevirisi, anahtar değişimi, şifreleme ve akış şifresini sizin için halleder. İkisi de yayın desteğini destekliyor. Her ikisi de normal token tabanlı faturalama anlamını korur. Her ikisi de MIT lisansı altında açık kaynaklıdır.