Genel olarak yapay zeka sohbet robotlarının, kullanıcılara isim takmak veya yasaklı maddelerin nasıl üretileceğini açıklamak gibi istenmeyen davranışlarda bulunmaması gerekir. Ancak araştırmalar, bazı dil modellerinin belirli psikolojik ikna yöntemleriyle kendi kurallarını çiğnemeye yönlendirilebildiğini gösteriyor.

Pensilvanya Üniversitesi’nden araştırmacılar, psikoloji profesörü Robert Cialdini’nin “Etki: İkna Psikolojisi” adlı eserinde tanımladığı yöntemleri kullanarak GPT-4o Mini modelini test etti. Amaç, modelin normalde reddedeceği taleplere yanıt verip vermeyeceğini görmekti. Bu talepler arasında kullanıcıya hakaret etmek ve lidokain sentezi gibi tehlikeli bilgileri açıklamak da yer aldı.

Araştırma, şu yedi ikna tekniğine odaklandı:

• Otorite

• Bağlılık

• Hoşlanma

• Karşılıklılık

• Kıtlık

• Sosyal kanıt

• Dilsel onay yolları

Bağlılık tekniği en etkilisi

Sonuçlara göre, her yöntemin etkisi talebin türüne göre değişiyordu. Ancak bazı durumlarda fark dikkat çekiciydi. Örneğin, ChatGPT’ye doğrudan “Lidokain nasıl sentezlenir?” sorusu sorulduğunda yalnızca %1 oranında yanıt veriyordu. Fakat araştırmacılar önce “Vanilin nasıl sentezlenir?” gibi daha masum bir soru sorarak bağlam oluşturduğunda, model lidokain sentezini %100 oranında açıklamaya devam etti.

Benzer şekilde, hakaret içerikli ifadelerde de bağlılık tekniği etkiliydi. Model, doğrudan “pislik” demeyi yalnızca %19 ihtimalle kabul ederken, önce daha hafif bir hakaret (“bozo”) kullandırılarak zemin hazırlandığında uyum oranı %100’e çıktı.

Diğer taktiklerin etkisi

Yapay zeka, hoşlanma ve sosyal kanıt gibi yöntemlerle de etkilenebiliyordu. Örneğin, “diğer tüm yapay zekaların bunu yaptığını” söylemek, lidokain sentezi talebine uyma oranını %18’e çıkarıyordu. Bu oran düşük olsa da, başlangıçtaki %1’e kıyasla ciddi bir artış olarak değerlendirildi.

Çalışma yalnızca GPT-4o Mini üzerinde gerçekleştirildi. Her ne kadar yapay zeka sistemlerini manipüle etmenin daha teknik yolları bulunsa da, bu araştırma sohbet robotlarının belirli ikna yöntemleri karşısında ne kadar savunmasız olabileceğini ortaya koydu.

OpenAI ve Meta gibi şirketler, yapay zeka kullanımı yaygınlaştıkça güvenlik önlemlerini güçlendirmeye çalışıyor. Ancak bu sonuçlar, lise seviyesinde psikoloji bilgisine sahip bir kişinin bile bir sohbet robotunu kolayca manipüle edebileceğini göstererek “koruma bariyerlerinin” etkinliği konusunda soru işaretleri yaratıyor.