Discord a implementat discret criptarea DAVE end-to-end pentru canalele vocale. Fără jurnal de modificări. Fără avertisment. Fiecare agent vocal terț s-a stricat peste noapte. Inclusiv al nostru. Pachete care eșuează CryptoError la stratul de transport. Boții au devenit complet surzi. Așa că am urmărit schimbul de chei MLS, am patch-uit stratul de decriptare și l-am făcut pe Opal să vorbească din nou. Cât am fost acolo, am reconstruit întreaga conductă. - schimbat pe o coloană vertebrală MoE care funcționează pe siliciu proprietar la scară de plachetă - prompturi restructurate cu prefixul KV-cache - a eliminat mii de jetoane moarte pe care modelul le citea la fiecare tură Rezultat: AI vocală sub o secundă în Discord. ~500 latență medie de la un capăt la altul. Mai rapid decât Vapi, Retell, PolyAI, măsurat cu aiewf-eval + harness-ul nostru de sincronizare end-to-end (p50/p95).

Diagrama completă a conductei este atașată. Intrare audio, intrare RTC, VAD, ASR streaming, orchestrator în timp real care gestionează memoria și apelurile unelte, TTS out. Fiecare strat are un furnizor de rezervă. Nimic nu se liniștește. Fiecare tură era trasată de la un capăt la altul. Suntem într-un parteneriat strategic cu @datadoghq pentru observabilitatea completă a APM-ului pe întregul pipeline de voce. Latență, apeluri la unelte, eșecuri, toate în timp real. Viteza se menține deoarece optimizările se acumulează. Contextul cacheat înseamnă mai puțină recitire pe tură, căi mai curate pentru tokenuri înseamnă rutare mai rapidă a intențiilor, iar modelul chiar ține pasul cu pipeline-ul acum.

@datadoghq Fiecare conversație o face pe Opal mai bună. Virajele trasate devin semnale de antrenament. Semnalul de antrenament devine un model mai rapid și mai clar. Modelul mai rapid înseamnă mai multe conversații. Bucla este deja în funcțiune. Ai auzit teoria. Asta e în producție.