Моя протилежна думка полягає в тому, що підхід «моделі — це товар, просто обмінюйся» — це наївна думка, яку майже виключно поділяють люди тут, які ніколи не випускали продукти на основі LLM у жодній глибині. Ці люди зазвичай є лише проповідниками. Моя особиста думка — рів дійсно існує і це накопичена посадка... Це лайно, як бібліотеки підказок, обробка крайніх випадків, інституційна інтуїція щодо режимів відмови та калібрування вбудованої довіри. а витрати на перемикання зростають нелінійно з глибиною інтеграції. Споживач API на поверхневому рівні — це, можливо, просто тривіально. Але для глибоко вбудованих речей, таких як таргетинг логіка, комунікаційні конвеєри, класифіковані робочі процеси тощо, вартість комутації — це фактично повний цикл переробки, замаскований під рішення постачальника. Особливо цікава ситуація з Dow/Anthropic, бо військові організації, ймовірно, мають найекстремальнішу версію цієї проблеми. Вони не можуть просто тестувати на YOLO на PROD, і кожен поведінковий крайній випадок має проходити повторну валідацію повільно, дорого і вимагає спеціалізованої експертизи, яка не обов'язково передається між сім'ями моделей. Я добре це розумію, бо наш стартап може перейти на будь-яку модель, але це справжній головний боль, бо все або ламається, або стає дуже дивним.