Maven Smart System (Palantir'in geliştirdiği Project Maven'i) tipik askeri teknolojiden daha korkutucu hissettiriyor çünkü savaşı tehlikeli derecede hızlı ve mesafeli bir şeye dönüştürüyor: 1. Süper hız — Drone/uydu/sosyal verileri anında birleştirir ve hedefleri saniyeler → dakikalar içinde önerir. Son operasyonlar (örneğin İran'a karşı) bu hız sayesinde 24 saat içinde 1.000 hedefe ulaştı. 2. Daha fazla öldürme, daha fazla hata — yapay zeka günde çok daha fazla saldırı öneriyor. Hatalar (sivilleri tehdit olarak yanlış tanımlama) hızla çoğalıyor — son vakalar arasında kötü yapay zeka çağrıları nedeniyle okullara/kızlara yapılan saldırılar onlarca/yüzlerce kişinin öldürülmesini içeriyor. 3. İnsanların evet demesi için baskı altına alınıyor — Temiz ve kendinden emin yapay zeka ekranları "şimdi vur" hareketini acil ve kolay hissettiriyor. İnsanlar buna aşırı güveniyor (otomasyon önyargısı) → hayatların tehlikede olduğunu kontrol etmek daha az gerçek. 4. Bir oyun gibi hissettiriyor — Güzel haritalar + anında öneriler, ölümü uzaktan onaylamaya karşı duygusal engeli azaltıyor. 5. Güç az sayıda elde — Bir şirketin yapay zekası artık ABD, NATO ve diğerleri için hedef almayı şekillendiriyor → büyük ölçekte hacklenirse, önyargılı veya yanlış yapılırsa büyük riske giriyor. Bu, yavaşlamaları ortadan kaldıran, aşırı verimli bir "öldür öner" motorudur ve bu yavaşlamalar genellikle savaşta felaketleri önler. Bu yüzden eleştirmenler buna "Cinayet Hizmet Olarak" ya da distopik diyor.

ŞOK EDİCİ: Palantir, drone, uydu ve kameralardan videoları izleyen, insanları, arabaları ve binaları otomatik olarak tespit eden, hedef olarak etiketleyen ve hangi hedefe isabet edeceğine karar veren Maven Smart System adlı yapay zekayı yeni başlattı... Çok hızlı. Zaten tüm ABD ordusu tarafından kullanılıyor. Askerlerin saatler yerine dakikalar içinde hareket etmesine izin vererek hayatlarını kurtardığını söylüyorlar. Demo, haritaların yapay zeka önerileriyle "hedefleri" aydınlattığını gösteriyor, bu çok şık ve korkutucu. Ama birçok kişi buna MurderAI diyor. Eleştirmenler, bu tür araçların yanlış hedefleri seçmeye yardımcı olduğunu ve bunun Gazze gibi yerlerde büyük sivil ölümlerine yol açtığını söylüyor. Yapay zeka insanları öldürmek için bulup takip etmede bu kadar iyi hale geldiğinde ve hükümetler bunu her yerde kullanmaya başladığında, nerede duruyor? Bu gelecekte gelmiyor ve şimdi burada, Palantir bununla gurur duyuyor. Oldukça çılgın (ve dürüst olmak gerekirse oldukça korkutucu) şeyler.

Dünya modelleri ortaya çıkıyor ve bu abartı değil, gerçekleşiyor. Yann LeCun'un Labs'ı, dil modellerinin ötesine geçip sistemleri gerçek dünya dinamikleri üzerinde JEPA tarzı mimariler aracılığıyla eğiten en büyük tohum turlarından birini ($1.03B) kapattı. Bir sonraki token tahmininden fizik, eylem ve neden-sonuç simülasyonlarına geçiyoruz. Bu, güvenilir ajanlar, yerçekimini halüsinasyon görmeyen robotikler ve gerçekten sürükleyici hissettiren VR/AR için temel oluşturuyor.