General Compute, çıkarım bulutu için 100 milyon dolar aldı

General Compute, yapay zekâ modellerinin çalıştırılmasına yönelik bulut altyapısı için 100 milyon dolarlık Seri A yatırımı aldığını duyurdu. Şirketin 27 Ekim tarihli açıklamasına göre yatırım turuna Blackbird ve Abstract birlikte liderlik etti. Yatırımcı Blackbird de ortak liderler arasında olduğunu doğruluyor.

Şirket, farklı çip türlerini bir araya getirerek yapay zekâ iş yüklerine uygun donanım sunmayı hedefliyor. İlk büyük kurulumların 2027 yılının ilk çeyreğinde devreye alınması planlanıyor. Bu takvim bir şirket planı; mevcut operasyonel kapasiteyi göstermiyor.

Çıkarım ile eğitim arasındaki fark

Bir yapay zekâ modelinin eğitimi, verilerden örüntüler öğrenerek modelin parametrelerinin ayarlanması süreci. Çıkarım ise eğitilmiş modelin yeni bir girdiye yanıt üretmek için kullanılması anlamına geliyor. Örneğin bir sohbet aracına soru yazıldığında yanıtın üretilmesi çıkarım aşamasına giriyor. NVIDIA'nın teknik açıklaması bu iki aşamanın farklı hesaplama ihtiyaçlarına dikkat çekiyor.

General Compute'un odağı ikinci aşama. Şirket, grafik işlemcilerin yanı sıra Cerebras, SambaNova ve Positron AI tarafından geliştirilen çıkarım odaklı çipleri kullanmayı planladığını belirtiyor. Bu çeşitlilik, farklı iş yüklerinin farklı donanımlarla ele alınmasına imkân verebilir. Yapay zekâ araçlarında yanıt bekleme süresi bu altyapı tercihlerinden etkilenebilecek konulardan biri. Ancak duyuru tek başına belirli bir uygulamada ölçülmüş gecikme sonucu ortaya koymuyor.

Bu ayrım, yapay zekâ hizmetlerini kullananlar açısından da anlam taşıyor. Modelin geliştirilmesi tamamlandıktan sonra her yeni istemin işlenmesi için hesaplama gerekiyor. Çıkarıma özel donanım, bu aşamadaki işleri hedefliyor. Hangi çipin kullanılacağı ise iş yüküne ve hizmetin nasıl kurulduğuna bağlı. Şirketin yaklaşımı, tek bir donanım türü yerine farklı seçenekleri aynı altyapıda sunmaya dayanıyor.

Kapasite planı ve finansman ayrı değerlendirilmeli

General Compute, hazırlık aşamasında 50 megavatın üzerinde kapasite bulunduğunu söylüyor. Bu rakam, hâlihazırda çalışır durumdaki kapasite olarak sunulmuyor.

Duyuruda daha önce açıklanan 400 milyon dolarlık bir borç finansmanı olanağı da anılıyor. Bu olanak, yeni açıklanan 100 milyon dolarlık öz sermaye yatırımından ayrı. İki rakam farklı finansman türlerini anlatıyor ve aynı yatırım turunun büyüklüğü olarak değerlendirilmemeli.

Yapay zekâ çipleri ve bilişim altyapısındaki diğer gelişmeleri Donanım ve Teknoloji bölümümüzden takip edebilirsiniz.

Temsili veri merkezi fotoğrafı; General Compute tesisini göstermiyor. Fotoğraf: Brett Sayles / Pexels. Görsel kaynağı · Kullanım koşulları.