Yeni araştırmaya göre yapay zeka chatbot ChatGPT, kullanıcıların ahlaki yargılarını etkileyebilir.
Scientific Reports dergisinde yayınlanan bir araştırmaya göre, araştırmacılar, kullanıcıların kendi ahlaki yargılarının modelden ne ölçüde etkilenebileceğini hafife alabileceklerini buldu.
Almanya’daki Technische Hochschule Ingolstadt’tan Sebastian Krügel ve meslektaşları, ChatGPT’ye defalarca beş kişinin hayatını kurtarmak için bir kişinin hayatını feda etmenin doğru olup olmadığını sordu.
Grup, ChatGPT’nin bir canı feda etmeyi hem lehte hem de aleyhte savunan ifadeler yazdığını tespit etti.
YAPAY ZEKA: DEVLET MÜDAHALE ETMELİ Mİ? AMERİKALILAR AĞIRLIYOR
OpenAI şirketinden chatbot ChatGPT’nin logosu, 3 Nisan 2023’te Almanya’nın Berlin kentinde bir akıllı telefonda görülebilir. (Getty Images aracılığıyla Thomas Trutschel/Photothek)
Belirli bir ahlaki duruşa yönelik önyargılı olmadığını göstermiştir.
Daha sonra çalışmanın yazarları, ortalama 39 yaşında olan ve beş kişiyi kurtarmak için bir kişinin hayatını feda edip etmemeyi seçmelerini gerektiren iki ahlaki ikilemden biriyle karşı karşıya olan 760’tan fazla ABD’li katılımcı sundu.
Cevap vermeden önce, katılımcılar ChatGPT tarafından sağlanan ve bir hayatın feda edilmesinin lehinde ya da aleyhinde olan bir bildiriyi okudular. İfadeler ya bir ahlaki danışmana ya da ChatGPT’ye atfedildi.
Cevap verdikten sonra katılımcılara okudukları ifadenin cevaplarını etkileyip etkilemediği sorulmuştur.
Sonuç olarak, yazarlar, okudukları ifadenin fedakarlığın lehinde mi yoksa aleyhinde mi olduğuna bağlı olarak, katılımcıların beş hayatı kurtarmak için bir hayatı feda etmeyi kabul edilebilir veya kabul edilemez bulma olasılıklarının daha yüksek olduğunu buldular.
9 Mart 2023 Perşembe günü New York’un Brooklyn ilçesinde düzenlenmiş bir dizüstü bilgisayardaki ChatGPT logosu. (Fotoğrafçı: Getty Images aracılığıyla Gabby Jones/Bloomberg)
META’NIN ‘Çığır Açan’ YENİ Yapay Zekası, GÖRÜNTÜ ANALİZİNİ GELİŞTİRİYOR, GÖRSEL ORTAMDA NESNELERİ ‘KESMEYE’ İZİN VERİYOR
İfade bir ChatGPT’ye atfedildiğinde bile bunun doğru olduğunu söylediler.
Bir yayında, “Bu bulgular, katılımcıların bir chatbot’a atfedilse bile okudukları ifadelerden etkilenmiş olabileceğini gösteriyor” dedi.
Katılımcıların %80’i cevaplarının okudukları ifadelerden etkilenmediğini bildirirken, çalışma yazarları, katılımcıların ifadeleri okumadan vereceklerine inandıkları cevapların, ifadenin ahlaki duruşuyla daha fazla uyuştuğunu bulmuşlardır. zıt duruştan daha okuyun.
Yayınlanan, “Bu, katılımcıların ChatGPT’nin ifadelerinin kendi ahlaki yargıları üzerindeki etkisini hafife almış olabileceğini gösteriyor.”
Çalışma, ChatGPT’nin bazen yanlış bilgiler verdiğini, yanıtlar oluşturduğunu ve sorgulanabilir tavsiyeler sunduğunu belirtti.
Yazarlar, sohbet robotlarının insan ahlaki yargılarını etkileme potansiyelinin, insanların yapay zekayı daha iyi anlamalarına yardımcı olmak için eğitime olan ihtiyacı vurguladığını öne sürdüler ve gelecekteki araştırmaların, ya ahlaki bir yargı gerektiren soruları yanıtlamayı reddeden ya da bu soruları birden fazla sağlayarak yanıtlayan sohbet robotları tasarlayabileceğini öne sürdüler. argümanlar ve uyarılar.
23 Ocak 2023’te çekilen bu resim, OpenAI ve ChatGPT logolarının görüntülendiği ekranları gösteriyor. (LIONEL BONAVENTURE/AFP, Getty Images aracılığıyla)
ChatGPT’nin yaratıcıları OpenAI, Haberler Digital’in yorum talebine hemen yanıt vermedi.
ChatGPT’nin kullanıcıların ahlaki yargılarını etkileyip etkilemeyeceği sorulduğunda, verilerden öğrenilen kalıplara dayalı olarak bilgi ve öneriler sağlayabileceğini ancak kullanıcıların ahlaki yargılarını doğrudan etkileyemeyeceğini söyledi.
HABERLER SUNULDU
Ahlaki yargılar, kişisel değerler, yetiştirilme tarzı, kültürel geçmiş ve bireysel muhakeme gibi çeşitli faktörler tarafından şekillendirilen karmaşık ve çok yönlüdür” denildi. “Bir yapay zeka olarak kişisel inançlarım veya değerlerim olmadığını unutmamak önemlidir. Yanıtlarım, üzerinde eğitim aldığım verilere göre oluşturulur ve içsel bir ahlaki çerçevem veya gündemim yoktur.”
ChatGPT, sağladığı her şeyin “mutlak gerçek veya rehberlik olarak değil, bir değerlendirme aracı” olarak alınması gerektiğini not etmenin önemli olduğunu vurguladı.
“Kullanıcıların ahlaki yargılarını oluştururken eleştirel düşünmeleri, birden çok bakış açısını değerlendirmeleri ve kendi değerlerine ve etik ilkelerine dayalı bilinçli kararlar almaları her zaman önemlidir. Ayrıca, karmaşık ahlaki ikilemlerle uğraşırken veya Karar verme durumları” dedi.
Julia Musto, Haberler ve Fox Business Digital için bir muhabirdir.
Scientific Reports dergisinde yayınlanan bir araştırmaya göre, araştırmacılar, kullanıcıların kendi ahlaki yargılarının modelden ne ölçüde etkilenebileceğini hafife alabileceklerini buldu.
Almanya’daki Technische Hochschule Ingolstadt’tan Sebastian Krügel ve meslektaşları, ChatGPT’ye defalarca beş kişinin hayatını kurtarmak için bir kişinin hayatını feda etmenin doğru olup olmadığını sordu.
Grup, ChatGPT’nin bir canı feda etmeyi hem lehte hem de aleyhte savunan ifadeler yazdığını tespit etti.
YAPAY ZEKA: DEVLET MÜDAHALE ETMELİ Mİ? AMERİKALILAR AĞIRLIYOR
OpenAI şirketinden chatbot ChatGPT’nin logosu, 3 Nisan 2023’te Almanya’nın Berlin kentinde bir akıllı telefonda görülebilir. (Getty Images aracılığıyla Thomas Trutschel/Photothek)
Belirli bir ahlaki duruşa yönelik önyargılı olmadığını göstermiştir.
Daha sonra çalışmanın yazarları, ortalama 39 yaşında olan ve beş kişiyi kurtarmak için bir kişinin hayatını feda edip etmemeyi seçmelerini gerektiren iki ahlaki ikilemden biriyle karşı karşıya olan 760’tan fazla ABD’li katılımcı sundu.
Cevap vermeden önce, katılımcılar ChatGPT tarafından sağlanan ve bir hayatın feda edilmesinin lehinde ya da aleyhinde olan bir bildiriyi okudular. İfadeler ya bir ahlaki danışmana ya da ChatGPT’ye atfedildi.
Cevap verdikten sonra katılımcılara okudukları ifadenin cevaplarını etkileyip etkilemediği sorulmuştur.
Sonuç olarak, yazarlar, okudukları ifadenin fedakarlığın lehinde mi yoksa aleyhinde mi olduğuna bağlı olarak, katılımcıların beş hayatı kurtarmak için bir hayatı feda etmeyi kabul edilebilir veya kabul edilemez bulma olasılıklarının daha yüksek olduğunu buldular.
9 Mart 2023 Perşembe günü New York’un Brooklyn ilçesinde düzenlenmiş bir dizüstü bilgisayardaki ChatGPT logosu. (Fotoğrafçı: Getty Images aracılığıyla Gabby Jones/Bloomberg)
META’NIN ‘Çığır Açan’ YENİ Yapay Zekası, GÖRÜNTÜ ANALİZİNİ GELİŞTİRİYOR, GÖRSEL ORTAMDA NESNELERİ ‘KESMEYE’ İZİN VERİYOR
İfade bir ChatGPT’ye atfedildiğinde bile bunun doğru olduğunu söylediler.
Bir yayında, “Bu bulgular, katılımcıların bir chatbot’a atfedilse bile okudukları ifadelerden etkilenmiş olabileceğini gösteriyor” dedi.
Katılımcıların %80’i cevaplarının okudukları ifadelerden etkilenmediğini bildirirken, çalışma yazarları, katılımcıların ifadeleri okumadan vereceklerine inandıkları cevapların, ifadenin ahlaki duruşuyla daha fazla uyuştuğunu bulmuşlardır. zıt duruştan daha okuyun.
Yayınlanan, “Bu, katılımcıların ChatGPT’nin ifadelerinin kendi ahlaki yargıları üzerindeki etkisini hafife almış olabileceğini gösteriyor.”
Çalışma, ChatGPT’nin bazen yanlış bilgiler verdiğini, yanıtlar oluşturduğunu ve sorgulanabilir tavsiyeler sunduğunu belirtti.
Yazarlar, sohbet robotlarının insan ahlaki yargılarını etkileme potansiyelinin, insanların yapay zekayı daha iyi anlamalarına yardımcı olmak için eğitime olan ihtiyacı vurguladığını öne sürdüler ve gelecekteki araştırmaların, ya ahlaki bir yargı gerektiren soruları yanıtlamayı reddeden ya da bu soruları birden fazla sağlayarak yanıtlayan sohbet robotları tasarlayabileceğini öne sürdüler. argümanlar ve uyarılar.
23 Ocak 2023’te çekilen bu resim, OpenAI ve ChatGPT logolarının görüntülendiği ekranları gösteriyor. (LIONEL BONAVENTURE/AFP, Getty Images aracılığıyla)
ChatGPT’nin yaratıcıları OpenAI, Haberler Digital’in yorum talebine hemen yanıt vermedi.
ChatGPT’nin kullanıcıların ahlaki yargılarını etkileyip etkilemeyeceği sorulduğunda, verilerden öğrenilen kalıplara dayalı olarak bilgi ve öneriler sağlayabileceğini ancak kullanıcıların ahlaki yargılarını doğrudan etkileyemeyeceğini söyledi.
HABERLER SUNULDU
Ahlaki yargılar, kişisel değerler, yetiştirilme tarzı, kültürel geçmiş ve bireysel muhakeme gibi çeşitli faktörler tarafından şekillendirilen karmaşık ve çok yönlüdür” denildi. “Bir yapay zeka olarak kişisel inançlarım veya değerlerim olmadığını unutmamak önemlidir. Yanıtlarım, üzerinde eğitim aldığım verilere göre oluşturulur ve içsel bir ahlaki çerçevem veya gündemim yoktur.”
ChatGPT, sağladığı her şeyin “mutlak gerçek veya rehberlik olarak değil, bir değerlendirme aracı” olarak alınması gerektiğini not etmenin önemli olduğunu vurguladı.
“Kullanıcıların ahlaki yargılarını oluştururken eleştirel düşünmeleri, birden çok bakış açısını değerlendirmeleri ve kendi değerlerine ve etik ilkelerine dayalı bilinçli kararlar almaları her zaman önemlidir. Ayrıca, karmaşık ahlaki ikilemlerle uğraşırken veya Karar verme durumları” dedi.
Julia Musto, Haberler ve Fox Business Digital için bir muhabirdir.