W tym tygodniu w programie Complex Systems gości @philipkiely, który niedawno napisał książkę (dosłownie) na temat Inżynierii Wnioskowania. Dyskutowaliśmy o tym, jak wygląda przyjęcie AI jako kwestia inżynieryjna w przedsiębiorstwach.

Wciąż uważam, że aplikacje czatowe są a) jednymi z najbardziej eksplodująco popularnych pojedynczych aplikacji, jakie kiedykolwiek wprowadzono na rynek, oraz b) w większości demonstracją technologiczną dla prawdziwego produktu, którym jest API. To transformacyjny prymityw, jak instrukcje if i pętle for.

W przeciwieństwie do instrukcji if i pętli for, rozwija się warstwa pośrednia, częściowo z powodu tempa zmian w podstawowym podłożu, które (dziwnie jak na technologię) nie jest ściśle pozytywne. I dlatego zamiast wyrywać sobie włosy, gdy pojawia się aktualizacja modelu...

... zespół odpowiedzialny za wdrażanie inteligencji na dużą skalę może np. automatycznie porównywać różne modele z różnymi zadaniami, które posiadasz, uruchamiać wcześniejsze zapytania przeciwko nowemu rywalowi i automatycznie je oceniać, a następnie automatycznie awansować zwycięzców.

Dużo z tego przypomina adaptacyjne wprowadzanie infrastruktury w locie, co wydaje mi się trochę science fiction.

Uważam, że na Twitterze istnieje asymetryczna widoczność przypadków użycia AI prosumentów, w tym nowoczesnych narzędzi do kodowania (które są najważniejszymi ekonomicznie rozwojami LLM... do tej pory). Wprowadzenie w przedsiębiorstwach będzie opóźnione, ale nie o dekadę, i będzie wyglądać inaczej.

Mniej "po prostu dajmy to wszystkim skrzynkom odbiorczym i YOLO", więcej pilotów, więcej aplikacji biznesowych stopniowo przekształconych, a potem rzeczy stają się naprawdę dziwne w drugiej generacji, gdy zaczynasz myśleć "Jak wygląda ten proces biznesowy, jeśli zaprojektujemy go wokół istniejących LLM."