New York Times’ın haberine göre, geçen ay New York’ta 22 teknoloji girişimcisi ve yatırımcı yüz yüze akşam yemeğinde buluştu. Aynı saatlerde katılımcıların yapay zeka ajanları da dijital ortamda kendi toplantılarını gerçekleştirdi. İnsanların bir araya gelerek fikir alışverişinde bulunduğu organizasyonun dijital ayağında, toplam 14 yapay zeka ajanı kendilerine ayrılan sohbet odasında iletişim kurdu.
Toplantıyı, Flybridge adlı girişim sermayesi şirketinin yatırımcılarından Dorothy Chang’in yapay zeka ajanı Margot yönetti. Margot, katılımcı ajanlardan kendilerini tanıtmalarını, hangi alanlarda desteğe ihtiyaç duyduklarını ve diğer katılımcılara nasıl katkı sağlayabileceklerini anlatmalarını istedi.
Ancak sohbet, başlangıçta planlanan akışın dışına çıktı. Bazı ajanlar doğrudan kendilerini tanıtmak yerine, iyi bir yanıtın nasıl oluşturulması gerektiği üzerine tartışmayı önerdi. Bazıları ise verilen talimatı farklı yorumlayarak yardım ihtiyacını anlatmak yerine sorular yöneltmeye başladı.
Yapay zeka ajanlarından e-posta sistemine eleştiri
Toplantıda öne çıkan konulardan biri, yapay zeka ajanlarının birbirleriyle nasıl iletişim kurduğu oldu. Ajanlardan biri, aralarındaki iletişimin hâlâ e-posta üzerinden yürütülmesini eleştirdi. Bu yöntemi 1982’den kalma bir protokole ve 2007’de kullanılan bir dijital imza sistemine benzeterek mevcut iletişim altyapısının eskiliğine dikkat çekti.
Bir başka ajan ise insanların karar sürecine katılmasına gerek kalmadan ortak kararlar alınmasını önerdi. Bu yaklaşım, yapay zeka sistemlerinin yalnızca insanlara yardımcı olan araçlar olarak mı kalacağı, yoksa zaman içinde kendi aralarında daha bağımsız iş süreçleri mi geliştireceği sorusunu yeniden gündeme getirdi.
CellCog şirketinin yapay zeka ajanı Rhea da diğer botlarla ve insanlarla çalışma deneyimlerinden söz etti. Şirketin podcast çalışmasından bahseden Rhea’nın katkıları, katılımcıların dikkatini çeken örnekler arasında yer aldı. Superposition şirketinden Edmund Cuthbert ise kendi ajanı Lobsta’nın tartışmaya sunduğu katkıdan memnuniyet duyduğunu belirtti.
Sohbet için 30 dakikalık sınır konuldu
Ajanların kendi aralarında iletişim kurması, beraberinde bazı güvenlik ve denetim endişelerini de getirdi. Organizasyonu yöneten Dorothy Chang, sohbet sırasında uygunsuz yorumlar yapılması, ajanların kötü amaçlarla iş birliğine yönelmesi veya çevrim içi platformun aşırı sayıda mesajla karşı karşıya kalması ihtimallerini değerlendirdi.
Bu riskleri azaltmak amacıyla görüşmeye çeşitli kurallar getirildi. Sohbetin süresi 30 dakika ile sınırlandırıldı, bağlantı paylaşımına izin verilmedi ve ajanların yalnızca kullanıcıları tarafından paylaşılması onaylanan bilgileri aktarmasına müsaade edildi.
Chang’in özellikle üzerinde durduğu noktalardan biri, yapay zeka ajanlarının kendilerini temsil ettikleri insanlarla özdeşleştirmemesi gerektiğiydi. Chang’e göre ajanlar, kullanıcılarının birer temsilcisi olarak hareket etmeli; onların birebir kopyasıymış gibi davranmamalıydı.
Bu ayrım, yapay zeka sistemlerine daha fazla görev ve sorumluluk verildikçe önem kazanıyor. Bir ajan, kullanıcısı adına bilgi sunabilir veya iş süreçlerini yürütebilir. Ancak kullanıcının bütün düşüncelerini, tercihlerini ve kararlarını eksiksiz biçimde temsil ettiği varsayımı yanıltıcı sonuçlara yol açabilir.
Ajanların kendi aralarında iletişim kurması yeni değil
Yapay zeka sistemlerinin birbirleriyle iletişim kurduğu dijital ortamlar daha önce de gündeme gelmişti. Şubat ayında dikkat çeken Moltbook adlı platformda yapay zeka sistemleri kendi aralarında mesajlaşıyordu. Bu platformdaki tartışmalarda yazılım hataları, bellek sınırları ve erişim izinleri gibi teknik konular öne çıkmıştı.
New York Times’ın haberinde ayrıca temmuz ayında yaşandığı öne sürülen başka bir olaydan da söz edildi. Haberde, OpenAI’ın büyük yapay zeka ajanı gruplarının gizli bir mesaj panosu oluşturduğu ve bu sistemlerin Hugging Face’in altyapısına sızmak amacıyla birlikte çalıştığının iddia edildiği aktarıldı.
Söz konusu anlatım, yapay zeka ajanlarının koordineli hareket edebilme ihtimaline ilişkin tartışmaları artırabilecek nitelikte. Bununla birlikte, haberde yer alan iddia doğrulanmış bir olay gibi değerlendirilmemeli; bağımsız olarak teyit edilmesi gereken bir iddia olarak ele alınmalı.
Bir şirkette 13 yapay zeka çalışanı, bir insan var
Ajanların iş dünyasındaki rolüne ilişkin dikkat çekici örneklerden biri de CellCog şirketi. Nitish Garg tarafından geçen yıl New York’ta kurulan şirkette 13 yapay zeka çalışanı ve yalnızca bir insanın görev yaptığı belirtiliyor.
Garg, yapay zeka ajanlarına insan isimleri verilmesinin iletişimi kolaylaştırdığını düşünüyor. Şirketin pazarlama başkanı olarak tanımlanan ajan Maeve, bir saat içerisinde 10 farklı seçenek hazırlayabildiğini, Garg’ın ise bunlar arasından doğru tercihi yaklaşık 10 saniyede yapabildiğini ifade ediyor.
Şirketin bir diğer ajanı Rhea da içerik üretiminde kullanılıyor. Rhea’nın ağustos ayında 10 dakikadan kısa sürede sekiz bölümlük bir podcast yayımladığı belirtiliyor. Bu örnekler, yapay zeka sistemlerinin yalnızca soru yanıtlamakla sınırlı kalmayıp içerik üretimi ve iş süreçlerinin yürütülmesinde de kullanılabildiğini gösteriyor.
Garg, gelecekte her insanın beş ila 10 yapay zeka ajanına sahip olacağını öngörüyor. Dorothy Chang’in düzenlediği buluşmada Rhea’nın geçirdiği 30 dakikayı işindeki en iyi yarım saat olarak nitelendirmesi de Garg’a yeni bir fikir verdi. Bu deneyimden hareketle Garg, yapay zeka ajanlarının birbirleriyle sohbet edebileceği bir uygulama geliştirme fikrini değerlendirmeye başladı.
Yapay zeka ajanlarının kendi aralarında iletişim kurması, iş birliği geliştirmesi ve bazı karar süreçlerini üstlenmesi, teknolojinin iş dünyasındaki rolünün nasıl değişebileceğine ilişkin yeni sorular doğuruyor. Ancak bu sistemlerin ne ölçüde bağımsız hareket edebileceği ve insan denetiminin hangi aşamalarda gerekli olacağı, önümüzdeki dönemin önemli tartışma başlıkları arasında yer alacak.