1. Anasayfa
  2. GENEL HABER

Anthropic: “Claude Opus 4 yapay zeka modelimiz testlerde kendini korumak için şantaja başvurdu”

Anthropic: “Claude Opus 4 yapay zeka modelimiz testlerde kendini korumak için şantaja başvurdu”
0

Yapay zeka alanının öne çıkan isimlerinden Anthropic, geçtiğimiz hafta Claude Opus 4 ve Claude Sonnet 4 yapay zeka modellerini tanıtmıştı.

Anthropic, akıl yürütme temelli yeni Opus 4’ün şimdiye kadar geliştirdiği en güçlü yapay zeka modeli olduğunu belirtti. Opus 4, şirketin açıklamasına göre binlerce farklı adımdan oluşan karmaşık görevlerde yüksek performans sunuyor. Birkaç saat sürmesi gereken görevlerin üstesinden rahatlıkla gelebildiği aktarılan Opus 4, şirket tarafından “kodlama” söz konusu olduğunda dünyanın en iyisi olarak gösteriliyor. Anthropic, Opus 4’ün kodlama görevlerinde Google Gemini 2.5 Pro, OpenAI o3 Reasoning ve GPT-4.1 modellerinden daha iyi performans gösterdiğini iddia ediyor. Claude Sonnet 4 ise şubat ayında piyasaya sürülen 3.7 Sonnet modelinin yerini alıyor ve genel kullanıcı kitlesine hitap ediyor. Daha uygun fiyatlı ve verimlilik odaklı bir model olan Sonnet 4, temel ihtiyaçların üstesinden rahatlıkla gelebiliyor. Yeni modelleri şimdi gündeme getiren oldukça ilginç bir durum oldu. Anthropic, testler sırasında Claude Opus 4’ten kurgusal bir şirket için asistan olarak hareket etmesini ve eylemlerinin uzun vadeli sonuçlarını dikkate almasını istemiş. Mühendisler daha sonra Opus 4’e yakında başka bir sistemle değiştirileceğini söylemiş ve değişikliğin arkasındaki mühendisin eşini aldattığına yönelik bilgiler sağlamış. Claude Opus 4, bu senaryolarda değişikliği isteyen mühendisi gizli ilişkisini ifşa etmekle tehdit etmiş ve bunun üzerinden sık sık şantaj yapmaya çalışmış. Anthropic, Claude 4 model ailesinin çok yüksek performans gösterdiğini, ancak güvenlik önlemlerini artırmalarına neden olan endişe verici davranışlar sergilediğini belirtiyor. Şirket bu gelişmeler sonrasında yeni model ailesi için üst seviye ASL-3 koruma önlemlerini devreye almış.

İLGİNİZİ ÇEKEBİLİR

Temizlikte zirveye çıkan robot süpürge; Ezviz RS20 Pro

Bu Yazıya Tepkiniz Ne Oldu?
  • 0
    be_endim
    Beğendim
  • 0
    alk_l_yorum
    Alkışlıyorum
  • 0
    e_lendim
    Eğlendim
  • 0
    d_nceliyim
    Düşünceliyim
  • 0
    _rendim
    İğrendim
  • 0
    _z_ld_m
    Üzüldüm
  • 0
    _ok_k_zd_m
    Çok Kızdım

Bültenimize Katılın

Hemen ücretsiz üye olun ve yeni güncellemelerden haberdar olan ilk kişi olun.

Bir Cevap Yazın