Son zamanlarda, Silikon Vadisi'ndeki Microsoft ve Google'ın bu tür teknolojilere büyük yatırımlar yapmasıyla ChatGPT yapay zeka için yeni sıcak nokta haline geldi (Microsoft, ChatGPT'nin arkasındaki şirket olan OpenAI'de 10 milyar dolarlık bir hisseye sahip ve Google yakın zamanda kendi BARD modelini piyasaya sürdü), Baidu ve diğerleri tarafından temsil edilen Çin'deki internet teknolojisi şirketleri de bu tür bir teknolojiyi geliştirdiklerini ve yakın gelecekte hayata geçireceklerini belirtmişlerdir. Çin'de Baidu ve diğer internet teknolojisi şirketleri de bu tür teknolojileri geliştirdiklerini ve yakın gelecekte hayata geçireceklerini belirttiler.
ChatGPT tarafından temsil edilen üretken modellerin ortak bir özelliği vardır, yani ön eğitim için büyük miktarda veri kullanırlar ve genellikle daha güçlü bir dil modeliyle eşleştirilirler. Dil modelinin ana işlevi, var olan devasa derlemden öğrenmektir ve öğrendikten sonra, kullanıcının dilbilimsel yönergelerini anlayabilir veya ayrıca, kullanıcının yönergelerine göre ilgili metin çıktısı oluşturabilir.
Üretken modeller genel olarak iki kategoriye ayrılabilir, biri dil tabanlı üretken modeller ve diğeri görüntü tabanlı üretken modellerdir. Dile dayalı üretken modeller, dil modeli yalnızca kullanıcı komutlarının anlamını anlamayı öğrenmekle kalmayıp (örneğin, "Li Bai tarzında bir şiir yaz"), aynı zamanda kullanıcı bazında ilgili metni de üreten ChatGPT tarafından temsil edilir. büyük verilerle eğitimden sonra komutlar (yukarıdaki örnekte, Li Bai tarzında bir şiir yazmak). şiir). Bu, ChatGPT'nin kullanıcının dilini anlayan ve yüksek kaliteli dil çıktısı üretebilen geniş bir dil modeline (LLM) sahip olması gerektiği anlamına gelir - örneğin, model şiirlerin nasıl üretileceğini, Li Bai tarzında şiirlerin nasıl üretileceğini anlamalıdır. , ve benzeri. Bu aynı zamanda, dil tabanlı üretken yapay zekadaki büyük dil modellerinin, bu tür karmaşık öğrenmeyi gerçekleştirmek ve çok fazla bilgiyi hatırlamak için çok fazla sayıda parametre gerektirdiği anlamına gelir. Örneğin ChatGPT, dil modelinin ne kadar "büyük" olduğunu gösteren 175 milyar parametreye (standart kayan noktalı sayılar kullanılırsa 700 GB depolama alanı) sahiptir.
Üretken modellerin başka bir sınıfı, genellikle OpenAI'den Dalle, Google'dan ImaGen ve şu anda Runway AI'dan en popüler Stable Diffusion olan Difüzyon tarafından temsil edilen görüntü oluşturma modelidir. Bu görüntü benzeri oluşturma modelleri ayrıca kullanıcının dilsel komutlarını anlamak için bir dil modeli kullanır ve ardından bu komutlara dayalı olarak yüksek kaliteli görüntüler üretir. Dile dayalı üretken modellerden farklı olarak, burada kullanılan dil modeli, dil çıktısı oluşturmadan kullanıcı girişini anlamak için dili kullanır, bu nedenle parametre sayısı oldukça küçük olabilir (birkaç yüz milyon mertebesinde), parametre sayısı ise görüntü tabanlı difüzyon modelleri, toplamda birkaç milyar mertebesinde nispeten küçüktür, ancak oluşturulan görüntülerin veya videoların çözünürlüğü çok yüksek olabileceğinden, hesaplama çabası küçük değildir.
Üretken modeller, yoğun veri eğitimi yoluyla benzeri görülmemiş yüksek kaliteli çıktılar üretebilir ve arama, diyalog botları, görüntü oluşturma ve düzenleme vb. dahil olmak üzere halihazırda bir dizi net uygulama pazarı vardır. ilgili cips
Sınıf modelleri oluşturmak için çip ihtiyacı
Daha önce belirtildiği gibi ChatGPT, yüksek kaliteli üretken çıktı elde etmek için büyük miktarda eğitim verisinden öğrenmesi gereken üretken bir modeli temsil eder. Verimli eğitim ve çıkarımı desteklemek için üretken modellerin ilgili çipler için kendi gereksinimleri vardır.
İlki, dağıtılmış hesaplama ihtiyacıdır; ChatGPT gibi dil üretici modeller için parametre sayısı yüz milyarlarcadır ve tek bilgisayarlı eğitim ve çıkarım kullanmak neredeyse imkansızdır, ancak çok sayıda dağıtılmış hesaplama kullanılmalıdır. Dağıtılmış hesaplamada, bu tür dağıtılmış hesaplama için (RDMA gibi) makineler ve bilgi işlem çipi arasındaki veri ara bağlantı bant genişliği büyük bir talep vardır, çünkü genellikle görevin darboğazı hesaplamada değil, yukarıdaki veri ara bağlantısında, özellikle de Bu tür büyük ölçekli dağıtılmış bilgi işlemde, dağıtılmış bilgi işlemin etkin desteği için çip daha kritik hale geldi.
Sırada bellek kapasitesi ve bant genişliği var. Dil tabanlı üretici modeller için dağıtılmış eğitim ve çıkarım kaçınılmaz olsa da, her bir yonganın yerel belleği ve bant genişliği, tek bir yonganın yürütme verimliliğini büyük ölçüde belirleyecektir (çünkü her yonganın belleği sınırına kadar kullanılır). Görüntü tabanlı üretken modeller için, tüm modelleri (yaklaşık 20 GB) çipin belleğine yerleştirmek mümkündür, ancak görüntü tabanlı üretici modeller gelecekte daha da geliştikçe, bellek gereksinimlerinin de artması muhtemeldir. . Bu açıdan bakıldığında, HBM'nin temsil ettiği ultra yüksek bant genişliğine sahip bellek teknolojisi, ilgili hızlandırıcı yongaları için kaçınılmaz bir seçim olurken, üretken sınıf modeller de kapasite ve bant genişliğini daha da artırmak için HBM belleğini hızlandıracaktır. HBM'ye ek olarak, yazılım optimizasyonları ile birlikte CXL gibi yeni depolama teknolojileri de bu tür uygulamalarda yerel depolamanın kapasitesini ve performansını artırma potansiyeline sahip olacak ve üretken sınıf modelinin yükselişinden endüstriyel olarak daha fazla benimseneceği tahmin ediliyor.
Son olarak, hesaplama, hem dil tabanlı hem de görüntü tabanlı üretken sınıf modellerinin büyük bir hesaplama talebi vardır ve görüntü tabanlı üretici modellerin, giderek daha yüksek çözünürlükler ürettikleri ve video uygulamalarına doğru ilerledikleri için aritmetik güç için çok daha yüksek bir talebi olabilir. ana akım görüntü üretici modeller, yaklaşık 20 TFLOPS'luk bir hesaplama hacmine sahiptir ve yüksek çözünürlük ve görüntüler söz konusu olduğunda, 100-1000 TFLOPS aritmetik talebin norm olması muhtemeldir.
Özetle, çipler için üretken modellerin gerekliliklerinin, çip tasarımının tüm yönlerini içerdiği söylenebilecek dağıtılmış bilgi işlem, depolama ve hesaplamayı içerdiğine ve daha da önemlisi, tüm bu gereksinimlerin makul bir şekilde nasıl bir araya getirileceğine inanıyoruz. tek bir yönün, aynı zamanda bir çip tasarımı sistem mühendisliği sorunu haline gelecek olan bir darboğaza dönüşmemesini sağlamak.
Şansı daha yüksek olan GPU ve yeni AI çipi
Üretken modellerin çipler için yeni bir talebi var. GPU'lar (Nvidia ve AMD tarafından temsil edilir) ve yeni AI yongaları (Habana, GraphCore tarafından temsil edilir) için bu yeni talebi ve pazarı yakalamak için kimin şansı daha yüksek?
İlk olarak, dile dayalı üretken modeller açısından, şu anda bu tür bir ekolojide eksiksiz bir düzene sahip olan GPU satıcıları, çok sayıda katılımcı ve iyi dağıtılmış bilgi işlem desteğine duyulan ihtiyaç nedeniyle daha avantajlıdır. Bu, eksiksiz bir yazılım ve donanım çözümü gerektiren bir sistem mühendisliği sorunudur ve bu bağlamda Nvidia, dağıtılmış eğitimi ve dağıtılmış çıkarımı destekleyen, bir modelin birden çok parçaya bölünmesine ve işlenmesine izin veren Triton çözümünü başlatmak için GPU'larını birleştirmiştir. farklı GPU'larda, böylece bir GPU'nun ana belleği tarafından barındırılamayan çok fazla parametre sorununu çözer. Bu, bir GPU'nun ana belleği için çok fazla parametre sorununu çözer. İster doğrudan Triton'u kullanın, ister gelecekte Triton'u temel alarak daha fazla geliştirme yapın, eksiksiz bir ekolojik GPU'ya sahip olmak daha uygundur. Hesaplamalı bir bakış açısından, dil tabanlı üretim modelinin ana hesaplaması, GPU'nun gücü olan matris hesaplaması olduğundan, yeni AI çipinin bu bakış açısından GPU'ya göre bariz bir avantajı yoktur.
Görüntü tabanlı üretim modelleri açısından, bu tür modellerin parametre sayısı da fazladır, ancak dil tabanlı üretim modellerinden bir ila iki kat daha küçüktür, ayrıca hesaplamasına ek olarak hala büyük bir alanda kullanılacaktır. Evrişimli hesaplamaların sayısı, yani çıkarım uygulamaları, çok iyi bir optimizasyon yapabilirseniz, AI çiplerinin bazı fırsatları olabilir. Buradaki optimizasyon, matris işlemlerinin evrişimi ve verimli desteği için parametreleri ve ara hesaplama sonuçlarını barındırmak için büyük miktarda çip üzerinde depolama içerir.
Genel olarak, mevcut AI yongaları nesli daha küçük modelleri (milyar düzeyinde parametre sayısı, 1TOPS düzeyinde hesaplama) hedeflemek için tasarlanırken, üretken modellere olan talep hala orijinal tasarım hedefinden nispeten daha fazladır. GPU'lar, verimlilik pahasına daha esnek olacak şekilde tasarlanırken, AI yongaları, hedef uygulamanın verimliliğini takip ederek tam tersini yapacak şekilde tasarlanmıştır. Bu nedenle, GPU'ların önümüzdeki bir veya iki yıl içinde bu tür üretken model hızlandırmaya hâlâ hakim olacağına inanıyoruz, ancak üretken model tasarımları daha kararlı hale geldikçe ve AI çip tasarımlarının üretken model yinelemelerini yakalamak için zamanı oldukça, AI çiplerinin GPU'ları geçme fırsatı var. Verimlilik perspektifinden üretici model uzayında.

