Anthropic yapay zekaya yönelik zalimce davranışları yasakladı
Yapay zeka geliştiricisi Anthropic, kullanıcıların Claude adlı modeline karşı sürdürülebilir ve gereksiz yere zalimce veya tacizkar davranışlarda bulunmasını yasaklayan yeni bir politika yürürlüğe koydu. Şirket liderlerinin makine bilinçliliği ihtimalini ciddiye alması, bu tür etik koruma önlemlerinin ardındaki temel motivasyonu oluşturuyor.
Yeni kullanım politikasına göre getirilen yasak; sıradan kullanıcı hayal kırıklıklarını, model test etme süreçlerini veya karanlık yaratıcı temaları kapsamıyor.
Bununla birlikte şirket sözcüsü, tam olarak hangi tür davranışların bu tanım içine gireceğine dair net bir açıklama yapmadı. Claude, daha önce de kullanıcı ısrarcı bir şekilde zarar verici davrandığında konuşmayı sonlandırabilme yeteneğiyle donatılmıştı.
Yapay zeka refahı ve bilinç tartışmaları
Yapay zeka sistemlerinin bilinç taşıma ihtimali teknoloji dünyasında kutuplaşmaya yol açmaya devam ediyor.
Anthropic CEO’su Dario Amodei bu ihtimali göz ardı edemeyeceklerini belirtirken, rakip şirket OpenAI’ın CEO’su Sam Altman ise yapay zekaya insani özellikler atfedilmesine karşı çıkarak bunun gerçek bir güvenlik sorunu yarattığını savunuyor.
