Claude modellerinin geliştiricisi Anthropic, yapay zekâ güvenliği konusundaki taahhütlerinden birini hayata geçirdi. Şirket, modellerinin risklerini değerlendirmek üzere dışarıdan bağımsız denetçilere “çalışana benzer erişim” tanıdı. Financial Times’ın haberini yayınlayan Ars Technica’ya göre bu adım, daha yetenekli yapay zekâ sistemlerinin ekonomi, siber güvenlik ve insanlık için oluşturabileceği tehlikelere yönelik artan kaygılara karşı önerilen en somut önlemlerden biri.
METR ekibi Anthropic’in ofisinde
Bu görevi üstlenen kuruluş, daha önce OpenAI, Anthropic, Google ve Meta gibi önde gelen laboratuvarlarla çalışmış kâr amacı gütmeyen METR. Anthropic, altı METR çalışanını bünyesine dahil ederek onlara şirket donanımı, ofis alanı ve “kendi risk değerlendirme ekiplerinin erişimiyle kabaca aynı düzeyde dahili araç ve sistemlere erişim” sağladı. Şirket ayrıca kendi çalışanlarını, bu denetçilerle risk alanında çalışan bir iş arkadaşlarıyla paylaşacakları gibi bilgi paylaşmaya teşvik ettiğini belirtti.
Anthropic bu düzenleme için METR’e ödeme yapmıyor. Araştırma grubu da yapay zekâ şirketlerinden ya da çalışanlarından bağış kabul etmiyor; bireylerden, hayır kurumlarından ve İngiltere’nin Yapay Zekâ Güvenliği Enstitüsü (AI Security Institute) gibi kamu kuruluşlarından gelen bağışlarla finanse ediliyor.
Yayın kararında veto yok
Düzenlemenin en önemli maddelerinden biri şeffaflıkla ilgili. Denetçiler analizlerini kamuoyuyla paylaşacak ve Anthropic bu yayınları veto edemeyecek. Bununla birlikte şirket, müşteri verileri, avukat-müvekkil gizliliği kapsamındaki bilgiler ya da model mimarilerine ilişkin ayrıntılar gibi belirli kategorilerdeki bilgilerin karartılmasını isteyebilecek.
Anthropic, kararı şu sözlerle açıkladı: “Modeller güçlendikçe daha sağlam güvenlik önlemleri ve daha zorlu risk değerlendirmeleri gerektirdi. Verdiğimiz kararlar için kamuoyuna hesap verebilir olmak istiyoruz. Ancak güvenlik çalışmalarımızla ilgili tüm bilgileri kamuyla paylaşamayız.” Şirket, bilgilerin açıkça paylaşılmasının kötü niyetli kişilere ya da rakiplere fayda sağlayabileceğini savunuyor ve sistemi, düzenleyicilerin en büyük bankaların içine yerleşik denetçiler atadığı bankacılık denetimine benzetiyor.
Eleştiriler ve sektördeki yansımalar
Dışarıdan denetçi kullanılması fikri herkesi ikna etmiş değil. Eleştirmenler, muhasebe sektöründe yaşanan sorunları hatırlatarak bu tür düzenlemelerin çıkar çatışmalarına yol açabileceğini ve asıl ihtiyacın daha güçlü devlet denetimi olduğunu savunuyor.
Anthropic CEO’su Dario Amodei‘nin laboratuvarlara dış denetçi yerleştirme önerisi eylülde OpenAI’dan Sam Altman ve SpaceX’ten Elon Musk tarafından da desteklenmişti. Ancak Altman’ın öneriyi iyi bir fikir olarak nitelemesine rağmen OpenAI henüz kendi denetçi planını açıklamadı. Anthropic ise güvenlik testleri için Accenture ile ortaklığını sürdürdüğünü, kimyasal ve biyolojik silah risklerini ise bir diğer bağımsız kuruluş SecureBio’nun incelediğini belirtti. Şirketin mesajı net: “Denetçileri gönüllü olarak bünyemize alıyoruz ve her öncü yapay zekâ şirketinin de aynısını yapması gerektiğine inanıyoruz.”
Halka arz öncesi güven mesajı
Ars Technica’ya göre Anthropic, bu yıl gerçekleşmesi beklenen ve şirketi 2 trilyon doların üzerinde değerleyebilecek halka arzı öncesinde yatırımcılara güvenlik konularının gölge düşürmeyeceği güvencesini vermek için de baskı altında. Şirket bu hafta yaptığı yatırımcı sunumlarının önemli bir bölümünü güvenlik uygulamalarına ayırdı. METR ise yaptığı açıklamada tüm öncü yapay zekâ geliştiricileriyle çalışarak kamuoyuna daha iyi kanıtlar sunmaya hazır olduklarını belirtti.
Şirket: Anthropic
Denetçi kuruluş: METR (altı uzman, ücretsiz düzenleme)
Kaynak: Ars Technica (Financial Times)
Görsel: Anthropic