Ci stiamo unendo a @cerebras per costruire l'inferenza più veloce possibile. In arrivo su Amazon Bedrock, stiamo offrendo prestazioni di inferenza un ordine di grandezza più veloci rispetto a quelle disponibili oggi collegando AWS Trainium3 per il prefill ad alta intensità di calcolo con Cerebras CS-3 per alimentare il decode. Scopri di più sulla partnership.

Le AI rispondono alle tue domande in pochi secondi, ma dietro a quella velocità c'è qualcosa chiamato inferenza—il processo intensivo in termini di calcolo in cui i modelli addestrati generano risposte. In AWS, abbiamo costruito chip personalizzati come Trainium, sistemi di routing intelligenti e un'infrastruttura unificata per rendere l'inferenza più veloce e più conveniente. Mentre gli agenti AI gestiscono compiti complessi a più fasi, l'inferenza rappresenta l'80-90% della potenza di calcolo dell'AI. Stiamo ingegnerizzando su scala planetaria per mantenere quei millisecondi affidabili.

Claude Sonnet 4.6 è disponibile su Amazon Bedrock. Offre intelligenza all'avanguardia su larga scala, progettata per la programmazione, agenti e flussi di lavoro aziendali. È anche il modello di utilizzo informatico più avanzato di Anthropic. Per le aziende che scalano i flussi di lavoro AI, questo significa un miglior ROI senza compromettere la qualità.