Coinbase CEO’su Brian Armstrong, yapay zekâ kullanımında maliyeti düşürmek için sorguları daha ucuz modellere yönlendirdiklerini açıkladı. Armstrong, bunun bazı durumlarda giderleri yaklaşık sabit tutarken token kullanımının hızla artmasına rağmen verimliliği koruduklarını söyledi.
Armstrong, en yeni modellerin güçlü özellikler sunsa da daha fazla token tükettiğini vurguladı. Ona göre kullanıcılar, yalnızca en yüksek düzeyde düşünme gücü gerektiğinde bu modellere yöneliyor.
CEO, önümüzdeki 12 ila 18 ay içinde iş yüklerinin yüzde 80’inin yüzde 99 daha ucuz modeller üzerinde çalışacağını öngördü. Armstrong’a göre en gelişmiş modeller daha çok bilimsel atılımlar ve yapay zekâ ajanlarının yönetimi gibi özel alanlarda kullanılacak.
Armstrong’un değerlendirmesinde, yapay zekâda sınırlayıcı unsurun giderek daha iyi modellerden çok enerji ve işlem gücü olacağı görüşü öne çıktı. Bu yaklaşım, teknoloji dünyasında uzun süredir görülen "daha fazla token kullan" anlayışından farklı bir çizgiye işaret ediyor.
Paylaşım, bazı teknoloji isimlerinin de dikkatini çekti. Marc Andreessen yaklaşımı ilginç bulduğunu yazarken, Hugging Face’in kurucu ortağı Julien Chaumond model yönlendirmesinin son dönemde hızla büyüdüğünü belirtti.
Box CEO’su Aaron Levie ise Armstrong’un rakamlarını biraz uç bulduğunu, ancak yapay zekâ kullanımının önümüzdeki yıllarda üst seviye ve yüksek hacimli işler olarak ayrışacağını söyledi. Harvey kurucu ortağı Winston Weinberg de yapay zekâda "zeka tahsisinin" çok önemli hale geleceğini değerlendirdi.
Teknoloji çevrelerinde bir süre önce daha yüksek token kullanımını öne çıkaran yaklaşım yaygınken, son dönemde maliyet odaklı bakışın güç kazandığı görülüyor. Y Combinator çevresinde girişimcilere token konusunda rahat davranmaları yönünde çağrılar yapılırken, bazı kurucular token kısmanın gereksiz olduğunu savunmuştu.
Glean kurucu ortağı Tony Gentilcore da Armstrong’un görüşünü isabetli bulduğunu söyledi. Gentilcore, teknik çevrelerin bu tabloyu zaten bildiğini, asıl belirsizliğin finans piyasalarının Opus fiyatlarını sonsuz ölçekte varsayması olduğunu ifade etti.
