Anthropic, kullanıcıların yapay zeka sistemlerine karşı 'zalimce' davranmasını yasakladı

Anthropic, yapay zekasına yönelik "sürekli ve gereksiz" kötü niyetli davranışlarda bulunan kullanıcıları yasaklayacağını duyurarak tepkilere neden oldu.

Claude'un üreticisi 9 Ekim'de yaptığı açıklamada, araçlarının "zalimce" davranışlarda bulunan kişilerle etkileşimi sonlandırmasına izin verecek şekilde kullanım politikasını güncellediğini belirtti.

Şirket bu uygulamaya daha önce "nadiren" başvurduğunu da ekledi.

Bu durum, zorbalık, kendine zarar vermeyi teşvik etmek ve rıza dışı müstehcen görüntüler oluşturmak da dahil yasaklı davranışlar listesine dahil edilecek.

Anthropic, bu politikanın yalnızca "tekrarlanan kötüye kullanımın görüldüğü istisnai durumlarda" uygulanacağını söylese de, karar yapay zeka araçlarıyla nasıl iletişim kurmamız gerektiğine dair tartışmaları yeniden alevlendirdi.

• Yapay zekaya karşı kibar olmalı mıyız?

Şirket, politikanın "kullanıcıların sıkça gösterdiği hayal kırıklığı, itirazlar, karanlık temalar içeren yaratıcı içerikler ya da model testleri ve araştırmaları" için geçerli olmayacağını belirtti.

Bu da uygulamanın yalnızca açıkça kasıtlı ve bilinçli kötüye kullanım vakalarında devreye gireceğine işaret ediyor.

Ancak Anthropic'in modellerine yönelik "kötüye kullanım veya acımasız davranışı" nasıl tanımladığı belirsizliğini koruyor.

• TFF'de Hacıosmanoğlu devam ediyor, Vincenzo Montella ile yollar ayrıldı
• Sözcü editörü Mustafa Balcı ve gazeteci Şaban Sevinç tutuklandı
• AKP'nin fon teklifi Meclis'te: Düzenleme neler öngörüyor?
• Başından vurulmuş halde bulunan Afyon Vali Yardımcısı için cenaze töreni düzenlendi

Haberin sonu

Yeni politikanın ekran görüntüleri sosyal medyada geniş çapta paylaşıldı ve yorumlandı; bazıları bunu iyi ahlakı veya "örnek sosyal yardım"ı teşvik eden bir uygulama olarak övdü.

Ancak plana yönelik eleştiriler de geldi. Bir kişi uygulamayı "son derece yanlış" olarak nitelerken, bir başkası bunun insanlara ve hayvanlara yönelik istismarın ciddiyetini gölgeleyebileceğini savundu.

İrlandalı hukuk firması William Fry'ın teknoloji ortağı Dr. Barry Scannell, LinkedIn'de "Sayılar ve matematiğe karşı acımasız olamazsınız" diye yazdı.

"Yapay zekaya insan özellikleri atfetmenin bu düzeye varması zararlı. İnsanların, yapay zekanın gerçekte olmadığı bir şey olduğuna inanmasına yol açıyor."

Eylül ayında rakibi Anthropic'i yapay zekaya insanmış gibi davrandığı gerekçesiyle eleştiren Microsoft Yapay Zeka Direktörü Mustafa Suleyman ise, Anthropic'in bu güncellemesine eriyen yüz emojisiyle tepki verdi.

• Sohbet robotlarını gerçek sanmak: Yapay zeka psikozu nedir?

Teknoloji haber sitesi The Verge tarafından ilk kez duyurulan değişiklikler, firmanın kullanım politikasına ilişkin yıllık incelemesinin ardından geldi.

Politika ayrıca başka alanlarda ortaya çıkan yeni veya gelişen riskleri ele alacak şekilde güncellendi.

Buna göre Claude'un "aldatıcı kampanyalar" yürütmek için kullanılması yasaklanırken, ABD'de ara seçimler yaklaşırken seçmenleri yanıltmak veya seçim süreçlerini aksatmak amacıyla kullanılmasının da yasak olduğu açıkça belirtildi.

Anthropic yaptığı açıklamada, kullanım politikasının araçlarının geçmişte silah geliştirmek için kullanılmasını engellediğini belirtti.

Ancak güncellemelerin hiçbiri, kullanıcıların sohbet botlarını kötüye kullanmasını yasaklama hamlesi kadar dikkat çekmedi ve eleştiri almadı.

Bu durum, üretken yapay zeka araçlarını kullanırken kaba mı yoksa kibar mı olmamız gerektiği konusundaki çok tartışılan soruyu da gündeme getirdi.

Bazı uzmanlar, ChatGPT gibi araçlara "lütfen" veya "teşekkür ederim" yazmanın veya söylemenin gereksiz olduğunu ve yapay zeka araçlarını destekleyen büyük dil modelleri tarafından size yanıt vermek ve işlemek için kullanılan belirteçleri (token) israf ettiğini söylüyor.

Kimileri ise nezaketin daha kaliteli cevaplar veya yanıtlar doğurabileceğini savunuyor.

Geçen yıl bir X kullanıcısı, ChatGPT'nin kullanıcılardan gelen "lütfen" ve "teşekkür ederim" mesajlarına yanıt vermesinin ne kadar elektrik maliyetine yol açtığını sorduğunda, OpenAI CEO'su Sam Altman bunun "on milyonlarca dolara mal olan ama iyi harcanmış bir para" olduğunu söylemiş ve "Ne olacağını bilemezsiniz" diye eklemişti.

Collins Sözlüğü ise geçen Kasım ayında yapay zeka araçlarını küçümseyerek tanımlamak için kullanılan "clanker" teriminin yeniden ortaya çıkışına dikkat çekti.

2000'li yılların ortalarından beri Star Wars oyunlarında ve filmlerinde robotları tanımlamak için kullanılan bu terim, geçen temmuz ayında birçok kişinin yapay zeka destekli makinelerle ilgili hayal kırıklıklarını TikTok'ta paylaşmasının ardından, 2025'in ruh halini yansıtan kelimeler listesine girdi.

Bazı uzmanlar, yapay zeka destekli sohbet robotlarına kaba davranmanın, başkalarıyla konuşma ve onlara davranma biçimimize sızarak insan iletişimini olumsuz etkileyebileceğini de öne sürmüştü.

Haberin sonu

Orijinali İngilizce olan bu makalenin çevirisinde yapay zekadan yararlandık. Yayınlanmadan önce çeviriyi bir BBC gazetecisi kontrol etti. Yapay zekayı nasıl kullandığımız hakkında daha fazla bilgi burada.