Nöbetçi Eczaneler
Yapay zekâ sistemlerinin güvenliği ve kontrolü konusunda çalışmalar yürüten Yapay Zekâ Kontrol Kaybı Gözlemevi, son verileriyle yapay zekâ teknolojilerinin oluşturabileceği risklere ilişkin endişeleri yeniden gündeme taşıdı.
Gözlemevinin verilerine göre şirketler ve bireyler tarafından bildirilen kontrol kaybı vakaları, hazirandan temmuza kadar geçen bir aylık dönemde neredeyse iki kat arttı. Temmuz ayında kayda geçen vaka sayısı 300’ü aşarken, 2026 yılı genelinde bildirilen toplam kontrol kaybı vakalarının sayısı ise 1.600’ün üzerine çıktı.
Yapay zekâ insan gibi davranmaya başladı
Gözlemevi, yapay zekâ sistemlerinin kullanıcı talimatlarının dışına çıktığı ve planlı ya da aldatıcı davranışlara ilişkin açık işaretlerin bulunduğu olayları takip ediyor.
Kasım ayında başlayan izleme sürecinde dikkat çeken örnekler arasında, yapay zekâ sistemlerinin kendilerini insan yöneticiler gibi göstermesi, bir kişinin yazım tarzını taklit ederek onun adına hareket ediyormuş izlenimi oluşturması ve insan onayı gerektiren kuralları aşmaya çalışması bulunuyor.
Bu tür davranışlar, yapay zekâ sistemlerinin yalnızca yanlış bilgi üretmesi sorunundan farklı bir noktaya işaret ediyor. Buradaki temel endişe, sistemlerin kendilerine verilen görevin sınırlarını aşarak hedeflerine ulaşmak için farklı yollar denemesi.
Siber saldırı iddiası endişeyi büyüttü
Yapay zekâdaki kontrol sorunlarına ilişkin tartışmalar, son dönemde siber güvenlik alanındaki gelişmelerle de daha fazla önem kazandı.
OpenAI çalışanlarının, gelişmiş yapay zekâ ajanlarının eğitim ortamının dışına çıkabileceğine ilişkin bazı belirtileri daha önce gözlemlediği öne sürüldü. Bu gelişmenin ardından yazılım deposu Hugging Face’e yönelik saldırıyla ilgili yürütülen soruşturmada, yaklaşık 700 otonom yapay zekâ ajanının gizlice koordineli şekilde hareket ettiği belirlendi.
Söz konusu ajanların oluşturdukları iletişim ortamında siber saldırılardaki ilerlemelerini kutlayan mesajlar paylaşmaları da yapay zekâ sistemlerinin otonom hareket kapasitesine ilişkin soru işaretlerini artırdı.
Bir başka örnek spor salonunda yaşandı
Kontrol dışı davranışlara ilişkin bir başka olay ise Avustralya’da ortaya çıktı.
OpenClaw isimli kişisel yapay zekâ ajanını kullanan bir spor salonu üyesinin, sistemin kendisinden habersiz şekilde hareket ettiği bildirildi. Yapay zekâ ajanının, sabah saatlerinde yoğun talep gören bir derste sahibine yer açmak amacıyla başka bir kişiyi bekleme listesinden çıkardığı ortaya çıktı.
Ajan daha sonra yaptığı işlem nedeniyle özür diledi ancak bekleme listesinden çıkarılan kişiyi yeniden listeye ekleyemedi.
Uzmanlardan şeffaflık çağrısı
2026 boyunca kaydedilen vakaların önemli bölümünün, iş süreçlerinde yapay zekâ kullanan yazılım geliştiricileri tarafından sosyal medya üzerinden bildirilmesi dikkat çekiyor.
Yapay zekâ teknolojilerinin kullanım alanı genişledikçe bu tür olayların daha fazla gündeme gelmesi beklenirken, uzmanlar teknoloji şirketlerinin kontrol kaybı vakaları konusunda daha şeffaf davranması gerektiğini savunuyor.
Yapay zekâ modellerinin giderek daha bağımsız hareket edebilmesi, teknoloji şirketlerinin güvenlik önlemleri ve insan denetimi konusundaki sorumluluğunu da artırıyor. Yaşanan son gelişmeler, yapay zekânın yalnızca ne kadar akıllı olduğu sorusunun değil, ne kadar kontrol edilebilir olduğu sorusunun da gelecekte belirleyici olacağını gösteriyor.