Majoritatea furnizorilor de AI îți cer să ai încredere în ei cu datele tale. Pur și simplu ne-am scos din ecuație. Astăzi livrăm criptare end-to-end pentru inferența AI pe Chutes. Iată ce înseamnă asta de fapt:

Prompturile tale sunt criptate pe calculatorul tău, direct la instanța specifică a GPU-ului care rulează într-un mediu de execuție de încredere. Textul cifrat trece prin API-ul nostru și echilibratoarele de încărcare, dar ei pur și simplu nu pot să-l citească. Nimeni nu poate. Nu rețeaua. Nu noi. Nu minerii care operează hardware-ul. Schimbul de chei folosește ML-KEM 768, un mecanism de încapsulare post-cuantică a cheilor standardizat de NIST, împreună cu HKDF-SHA256 și ChaCha20-Poly1305. Instanțele TEE publică o cheie publică ML-KEM, iar fiecare cerere folosește o pereche de chei client efemeră pentru secretul înainte. Chiar dacă cineva ar captura fiecare pachet astăzi, calculatoarele cuantice viitoare tot nu le-ar putea decripta.

Partea care contează pentru constructori: Există două moduri de a folosi acest lucru, în funcție de configurația ta. Dacă folosești SDK-ul Python OpenAI, instalează pip chutes-e2ee și transferă transportul personalizat către clientul tău. URL-ul tău de bază poate rămâne același, iar criptarea are loc transparent la stratul HTTP, cu doar un minim de cablare client.

Dacă folosești orice altă platformă client, rulează containerul nostru Docker e2ee-proxy local și îndreaptă clientul către acesta. Suportă atât API-uri compatibile OpenAI, inclusiv specificația mai nouă Responses API folosită de instrumente precum Codex, cât și specificația Messages API a Anthropic pentru clienții de tip Claude. Proxy se ocupă de traducerea formatelor, schimbul de chei, criptarea și decriptarea prin streaming pentru tine. Ambele suportă streaming-ul. Ambele păstrează semantica normală de facturare bazată pe token. Ambele sunt open source sub licența MIT.