Recursive'ten Yerel Kodlama Modeli Flint
Recursive, yerel donanımlarda çalışabilen ve küçük bir ekip tarafından geliştirilen kodlama modeli Flint'i tanıttı. Model, otomatik araştırma sistemi Eureka Machine desteğiyle kısa sürede tamamlandı.
Recursive, kullanıcıların kendi cihazlarında çalıştırabileceği yeni kodlama modeli Flint'i erişime açtı. Şirketin paylaştığı bilgilere göre proje, insan ve yapay zeka ajanlarından oluşan sınırlı bir kadro tarafından dört aydan kısa bir sürede sıfırdan inşa edildi. Modelin geliştirme sürecinde, otomatik araştırma altyapısı Eureka Machine'den faydalanıldığı açıklandı.
Webrazzi'de yayınlanan habere göre, toplam 40 milyar parametre içeren Flint, uzmanlar karışımı (MoE) mimarisiyle her token işleminde yalnızca 2,5 milyar parametreyi aktif hale getirerek hesaplama yükünü minimize ediyor. Recursive'in gerçekleştirdiği testlerde, M4 Pro işlemcili MacBook Pro üzerinde kısa bağlamlarda saniyede 125'in üzerinde token üretim hızına ulaşıldığı belirtildi.
Şirket, modelin bazı kodlama sınavlarında 50 milyardan daha az parametreye sahip MoE modellerini geçtiğini vurguluyor ancak bu performans verilerinin kendi iç değerlendirmelerine dayandığı not ediliyor. Geliştirme sürecinde kullanılan Eureka Machine sistemi; fikir üretimi, deneylerin yürütülmesi ve sonuçlara göre yeni denemelerin planlanması aşamalarını otomatize ederek mimari tasarımından eğitim yöntemlerine kadar çeşitli noktalarda rol oynadı.
Flint'in ağırlıkları, Apache 2.0 lisansı kapsamında Hugging Face platformu üzerinden indirilebiliyor. Bu yaklaşım, çevrimdışı kullanım ve verilerin cihazda kalmasını mümkün kılarken API maliyetlerini de ortadan kaldırıyor. Recursive, karmaşık görevlerde işlemlerin küçük parçalara ayrılmasını tavsiye ediyor ve modelin büyük kapalı sistemlere kıyasla daha fazla yönlendirmeye ihtiyaç duyabileceğini kabul ediyor.
Richard Socher yönetimindeki Recursive'in, mayıs ayında GV, Nvidia ve AMD Ventures gibi yatırımcılardan 4,65 milyar dolar değerleme üzerinden 650 milyon dolar yatırım aldığı biliniyor. Şirket, Flint'i her yeni modelin bir sonrakini güçlendirdiği bir araştırma döngüsünün başlangıcı olarak görüyor. Hedef, Eureka Machine'in kapasitesini artırarak gelecekteki modelleri daha hızlı ve aynı maliyetle daha yüksek performansla geliştirmek.
TürkAta Haber Ajansı
İş Dünyası Gündemi