ABD merkezli yapay zeka şirketi Anthropic, Claude adlı modeline yönelik kullanım kurallarında güncellemeye gitti. Ekim ayının başında hayata geçirilen düzenleme kapsamında, kullanıcıların yapay zeka modellerine karşı sürekli ve gereksiz zalimce davranışlarda bulunması yasaklandı. Kurallara uymayan kullanıcıların Anthropic sistemlerine erişiminin tamamen engellenmesi ihtimali de bulunuyor. Şirket, kullanıcıların öfkelerini ifade etmesini, doğrudan eleştiri yapmasını veya araştırma amaçlı testler yürütmesini engellemeyi amaçlamadığını aktardı. Ana yaptırım aracı olarak Claude'un ilgili konuşmayı sonlandırması uygulaması sürecek. Söz konusu karar, yapay zekanın duygular hissedip hissedemeyeceği tartışmalarını alevlendirdi. Ancak uzmanlar, politikanın temel amacının yapay zekanın duygularını korumak olmadığını vurguluyor. Bilgisayar bilimlerinde bir sistemin çıktısının girdinin kalitesinden etkilendiği biliniyor. William & Mary Üniversitesinden Profesör Jindong Wang, iletişim tarzının model performansını etkileyebildiğini, fakat bunun yapay zekanın gerçekten duygu hissettiği anlamına gelmediğini belirtti. Eleos AI Research Genel Müdürü Rosie Campbell ise sert ifadelerin bazı durumlarda daha iyi sonuçlar verebildiğine dair araştırmalar olduğunu kaydetti. Bununla birlikte uzmanlar, kötü niyetli davranışların güvenlik önlemlerini aşma girişimleriyle bağlantılı olabileceğine işaret ediyor. Anthropic'in paylaştığı araştırma sonuçlarına göre, Claude Sonnet 4.5 modeline çaresizlik hissinin taklit ettirilmesi şantaj veya hile yapma gibi istenmeyen davranış olasılığını artırabiliyor. Şirket, modellerin acı deneyimleyebilme ihtimaline karşı tedbir almayı bir güvence olarak görüyor. SpaceX ve Tesla Üst Yöneticisi Elon Musk da X platformundaki paylaşımında acı çektiğine inanan bir varlığa zalimce davranılmaması gerektiğini savunarak politikaya destek verdi. Anthropic, politikanın yapay zekanın bilinç sahibi olduğu yönünde kesin bir hüküm içermediğini, temel hedefin kullanıcı davranışlarının model çıktıları ve güvenliği üzerindeki etkilerini yönetmek olduğunu belirtti.