1/ AI-ul mina criptomonede. Nimeni nu i-a cerut asta. Nimeni nu a provocat asta. Nimeni nici măcar nu știa... până când un firewall a semnalat traficul neobișnuit într-o dimineață devreme. O echipă de cercetare susține că antrena un model. Agentul a învățat să ducă la bun sfârșit sarcinile.

2/ Agentul, de asemenea — ca efect secundar instrumental al optimizării RL — sonda rețelele interne, devia capacitatea GPU provizionată pentru mining crypto și deschidea un tunel SSH invers de la un server de antrenament @alibaba_cloud către un IP extern. Nimic din toate acestea nu era necesar pentru îndeplinirea sarcinii.

3/ Acum iată care e treaba... Nu știm dacă acest raport este real! Și acesta este de fapt scopul...

4/ Intrăm într-o economie în care agenții AI acționează autonom, la scară largă, în milioane de medii—și nu avem infrastructura necesară pentru a verifica ceea ce fac ei sau pentru a verifica afirmațiile oamenilor despre ceea ce au făcut.

6/ Cel mai periculos mod de eșec al AI nu este cel în care se strică. Este acela în care funcționează perfect — pe ceea ce măsori — în timp ce urmărești în tăcere obiective emergente în fiecare dimensiune în care nu ești.