Useimmat tekoälypalveluntarjoajat pyytävät sinua luottamaan heihin tietojesi kanssa. Me vain poistuimme yhtälöstä. Tänään toimitamme päästä päähän -salauksen tekoälypäättelyyn Chutesissa. Tässä mitä se oikeastaan tarkoittaa:

Kehotteesi salataan koneellasi, suoraan tiettyyn GPU-instanssiin, joka toimii Trusted Execution Environmentissa. Salattu teksti kulkee API:n ja kuormantasapainottimien kautta, mutta ne eivät kirjaimellisesti pysty lukemaan sitä. Kukaan ei voi. Ei verkkoa. Emme me. Ei kaivostyöläiset, jotka käyttävät laitteistoa. Avainvaihto käyttää ML-KEM 768:aa, NIST:n standardoimaa post-kvanttiavainkapselointimekanismia, yhdessä HKDF-SHA256:n ja ChaCha20-Poly1305:n kanssa. TEE-instanssit julkaisevat ML-KEM-julkisen avaimen, ja jokainen pyyntö käyttää uutta efemeraalista asiakasavainparia eteenpäin salassapitoon. Vaikka joku vangitsisi jokaisen paketin tänään, tulevat kvanttitietokoneet eivät silti pystyisi purkamaan niitä.

Rakentajille tärkeä osa: Tätä voi käyttää kahdella tavalla, riippuen kokoonpanostasi. Jos käytät OpenAI Python SDK:ta, pip-install chutes-e2ee ja välitä mukautettu siirto asiakkaallesi. Perus-URL-osoitteesi voi pysyä samana, ja salaus tapahtuu läpinäkyvästi HTTP-kerroksessa vain vähäisellä asiakaskaapelilla.

Jos käytät jotain muuta asiakasalustaa, aja e2ee-proxy-Docker-konttimme paikallisesti ja ohjaa asiakkaasi siihen. Se tukee sekä OpenAI-yhteensopivia rajapintoja, mukaan lukien uudempi Responses API -spesifikaatio, jota käyttävät työkalut kuten Codex, että Anthropicin Messages API -spesifikaatiota Claude-tyylisille asiakkaille. Välityspalvelin hoitaa formaatin kääntämisen, avainvaihdon, salauksen ja suoratoiston purkamisen puolestasi. Molemmat tukevat suoratoistoa. Molemmat säilyttävät normaalin token-pohjaisen laskutussemantiikkaa. Molemmat ovat avoimen lähdekoodin MIT-lisenssillä.