Většina poskytovatelů AI vás žádá, abyste jim svěřili svá data. Prostě jsme se z rovnice odstranili. Dnes přinášíme end-to-end šifrování pro AI inferenci na Chutes. Tady je, co to vlastně znamená:

Vaše výzvy jsou na vašem počítači zašifrovány přímo do konkrétní instance GPU běžící v Trusted Execution Environment. Šifrovaný text prochází naším API a load balancery, ale oni ho doslova nemohou číst. Nikdo nemůže. Ne síť. Ne my. Ne těžaři, kteří ovládají hardware. Výměna klíčů využívá ML-KEM 768, mechanismus zapouzdření klíčů standardizovaný NIST, spolu s HKDF-SHA256 a ChaCha20-Poly1305. Instance TEE publikují veřejný klíč ML-KEM a každý požadavek používá novou efemerní klientskou klíčovou dvojici pro přední utajení. I kdyby dnes někdo zachytil každý paket, budoucí kvantové počítače je stále nedokázaly dešifrovat.

Část, která je pro stavitele důležitá: Existují dva způsoby, jak to využít, v závislosti na vašem nastavení. Pokud používáte OpenAI Python SDK, nainstalujte pip chutes-e2ee a předejte vlastní transport do klienta. Vaše základní URL může zůstat stejná a šifrování probíhá transparentně na HTTP vrstvě s minimálním zapojením klienta.

Pokud používáte jinou klientskou platformu, spusťte náš e2ee-proxy Docker kontejner lokálně a nasměrujte na něj svého klienta. Podporuje jak API kompatibilní s OpenAI, včetně novější specifikace Responses API používané nástroji jako Codex, tak specifikaci Messages API od Anthropic pro klienty ve stylu Claude. Proxy za vás zajišťuje překlad formátu, výměnu klíčů, šifrování a dešifrování streamování. Oba podporují streamování. Oba zachovávají běžnou sémantiku fakturace založenou na tokenech. Obě jsou open source pod licencí MIT.