Yapay Zekâ İçerik İmparatorluğu Çöktü: Asıl Mesele Yapay Zekâ Değil, Sahte Yazarlardı

İş modeli kâğıt üzerinde neredeyse dâhiceydi. Okurunu kaybetmiş ama arama motorlarında hâlâ ağırlığı olan eski yayınları ucuza satın al. Kadroyu boşalt, sayfaları yapay zekâyla üretilmiş metinlerle doldur. Yayının yıllar içinde biriktirdiği alan adı geçmişi, arama görünürlüğü ve otoritesi, yeni içeriğin çok daha hızlı yayılmasına yardım etsin.

Brown Brothers Media'nın portföyünde VegOut, Silicon Canals ve otuz yılı aşkın geçmişi olan Space Daily gibi isimler vardı. Şirketin kendi beyanına göre bu ağ ayda 50 milyonun üzerinde sayfa görüntülemesi alıyordu. Bu rakam yalnızca bir böbürlenme de değildi: Similarweb, ağ için son bir yılda ortalama 64,7 milyon aylık ziyaret tahmin ediyor. Trafiğin büyük bölümü Google'dan geliyordu; şirket de büyümesini Google Search ve Discover üzerinden gelen organik erişimle açıklıyordu.

Sahte NASA mühendisi

Çöküşe giden süreç, ABD'li teknoloji sitesi Futurism'in 17 Eylül'de yayımladığı araştırmayla görünür hale geldi. Bulgular yapay zekâ kullanımından çok daha ileri gidiyordu.

Siteler "yazar" olarak gerçek olmayan kişileri kullanıyordu. Araştırma, ağ genelinde 50'den fazla uydurma yazar profili tespit etti. Bunların arasında eski NASA JPL mühendisi olduğu iddia edilen "Dr. Katherine Chen" ve Avrupa Uzay Ajansı araştırmacısı olarak sunulan "Dr. James Whitfield" gibi sahte uzmanlar da vardı. Bu profillerin uydurma özgeçmişleri, uydurma uzmanlıkları ve çoğu zaman yapay zekâyla üretilmiş fotoğrafları vardı. Bazı yazılarda ise gerçek bir insanın adı, tamamen yapay zekâyla üretilmiş metinlerin altına imza olarak konuyordu. Aynı kişi bir sitede astrofizik, diğerinde vegan beslenme, bir üçüncüsünde Kanada'daki beyaz balinalar hakkında yazıyormuş gibi görünüyordu.

Metinlerin kendisi de ayrı bir sorundu. Aynı haber onlarca küçük varyasyonla tekrar tekrar yayımlanıyor, gerçek gazetecilik ürünü haberler yeniden yazılıp kaynak gösterilmeden kullanılıyordu. Başlıklar ise uzun, duygusal ve tıklamaya zorlayan türdendi.

İki haftada çöküş

Futurism soru sormaya başladığında şirketin ilk tepkisi açıklama yapmak değil, içerik silmek oldu. Sahte yazar profilleri ortadan kalktı, bazı yayınların arşivleri büyük ölçüde temizlendi.

Asıl darbe ise Google görünürlüğündeki çöküş oldu. Araştırmanın ardından ağdaki siteler Google News'ten neredeyse tamamen kayboldu ve arama sonuçlarında bulunmaları son derece zorlaştı. VegOut gibi bir sitenin Google'da indekslenen sayfa sayısı yaklaşık ona düştü ve bunların hepsi statik sayfalardı. Yayınların kendi adlarıyla arama yapıldığında bile siteler artık çıkmıyordu.

Trafiğinin büyük kısmı Google'a bağlı olan bir iş modeli için bu, musluğun kapanması demekti. Ağdaki sitelerin büyük bölümü kısa süre içinde yayın yapmayı durdurdu. 30 Eylül itibarıyla şirketin ana sayfası değişmemişti ama yayınları susmuştu.

Google'ın kırmızı çizgisi ne?

Bu hikâyeyi "Google yapay zekâ içeriğini cezalandırdı" diye okumak kolay ama eldeki veriler bunu söylemeye yetmiyor. Google, Brown Brothers hakkında hangi ihlalin hangi işlemi tetiklediğini açıklamadı. Üstelik ağdaki yayınlar yalnızca yapay zekâ kullanmıyordu; ölçekli düşük değerli içerik, uydurma anlatılar, kaynak sorunları ve sahte uzman profilleri aynı anda oradaydı.

Buna rağmen zamanlama dikkat çekici. Ağın Google görünürlüğünün çökmesinin hemen ardından, 1 Ekim'de Google, site sahiplerine yönelik içerik rehberine açık bir paragraf ekledi. Yeni metin, yapay zekâyla oluşturulmuş profil fotoğrafları, uydurma isimler ve sahte uzmanlıklarla içeriği gerçek insan uzmanlar yazmış gibi göstermeyi doğrudan "aldatma" olarak tanımlıyor. Benzer örnekler Google'ın kalite değerlendiricilerine yönelik belgelerinde zaten vardı; yani yepyeni bir kural icat edilmedi, var olan çizgi yayıncıların okuduğu rehbere çok daha açık biçimde taşındı.

Buradan çıkarılabilecek en sağlam sonuç şu: Google için sorun yalnızca bir makinenin metin üretmesi değil. Makinenin ürettiği metne güven kazandırmak için var olmayan bir insanın ve var olmayan bir uzmanlığın uydurulması, açık bir kırmızı çizgi. Kanada'da benzer bir sahte gazeteci vakasını inceleyen bir editörün tespiti de aynı yönde: yapay zekâ bu hikâyelerde yangını hızlandıran bir etken, ama yangının kendisi aldatma.

Ölçeğin tuzağı

Brown Brothers modelinin ironisi, onu başarılı kılan şeyin onu öldüren şeyle aynı olması. Yapay zekâ, bir avuç insanın bir düzine yayını aynı anda doldurmasını mümkün kıldı. Ama o ölçekteki içeriğin okura güven vermesi için her metnin arkasında bir uzman varmış gibi görünmesi gerekiyordu. Gerçek uzmanlardan oluşan bir kadroyla bu ölçeği sürdürmek çok daha pahalı ve yavaş olacaktı; Brown Brothers bunun yerine uzmanlık görüntüsünü de ölçeklendirdi.

Güvenilirlik satın alınabiliyordu; eski bir yayının adı, geçmişi ve arama motorlarındaki ağırlığı bir şirketle birlikte el değiştirebiliyordu. Ama satın alınan güvenilirlik, üzerine inşa edilen içerik tarafından hızla tüketildi. Space Daily'nin otuz yılda kazandığı itibar, birkaç ay içinde sahte bir NASA mühendisinin imzasıyla harcandı.

Şirket bugün yapay zekâyı "insan editoryal denetimi altında sorumlu biçimde" kullandığını söyleyen yönergeler yayımlıyor. Bu cümlenin kendisi aslında doğru bir ilkeyi tarif ediyor. Brown Brothers'ın tek sorunu, o ilkeyi yalnızca yakalandıktan sonra yazıya dökmüş olması.