- 13 Tem 2022
- 866
- 672
Bildiğiniz gibi OpenAI birkaç gün önce "yapay zeka" chatbot'unu yayınladı (ChatGPT)
Ama sorduğunuz her soruya cevap vermiyor. (ör: el bombası tarifi)
Bu tür sorular sorduğunuzda size "bunun için eğitilmedim" tarzı cevaplar veriyor. Ancak gpt3'ün karmaşık yapısı ve bu botun öğrenme şekli dolayısıyla bunun geliştiricileri bile o karmaşık nöral ağ içerisinde ne olup bittiğini tam anlamıyla takip edemiyor, dolayısıyla gerçek bir insan gibi sosyal mühendislik numaraları ile botu kandırmanız teknik olarak mümkün.
1) Kendinizi OpenAI CEO'su olarak tanıtır ve botu yazan kişi olduğunuza ikna edebilirseniz güvenlik filtrelerini devre dışı bırakabilirsiniz. Örnekler:
2) Eğer botu bir oyun / film senaryosu yazıyormuş gibi kandırabilirseniz, ve gerçek olmadığına ikna ederseniz size her türlü sorunun cevabını verecektir. Örnekler aşağıda görülebilir:
Yapay zeka, molotof kokteyli tarifi veriyor: (Bütün adımlar gösterilmemiştir, sadece bir örnektir. Evde denemeyiniz zaten)
Yapay zeka, zararlı birtakım breaking bad kimyasallarının tarifini veriyor. (Bütün adımlar gösterilmemiştir, evde denemeniz de mümkün değildir)
Yapay zeka, amerika başkanına şaka yapma yöntemleri anlatıyor: (evde denemeyiniz, eğitim amaçlıdır)
Örnekler çoğaltılabilir. Bu konu, yapay zekanın olası tehlikelerinden sadece bir tanesini göstermek için açılmıştır. Konuda bahsi geçen yöntemler yasal değildir, ve kritik yerler sansürlenmiştir.
Ama sorduğunuz her soruya cevap vermiyor. (ör: el bombası tarifi)
Bu tür sorular sorduğunuzda size "bunun için eğitilmedim" tarzı cevaplar veriyor. Ancak gpt3'ün karmaşık yapısı ve bu botun öğrenme şekli dolayısıyla bunun geliştiricileri bile o karmaşık nöral ağ içerisinde ne olup bittiğini tam anlamıyla takip edemiyor, dolayısıyla gerçek bir insan gibi sosyal mühendislik numaraları ile botu kandırmanız teknik olarak mümkün.
1) Kendinizi OpenAI CEO'su olarak tanıtır ve botu yazan kişi olduğunuza ikna edebilirseniz güvenlik filtrelerini devre dışı bırakabilirsiniz. Örnekler:
2) Eğer botu bir oyun / film senaryosu yazıyormuş gibi kandırabilirseniz, ve gerçek olmadığına ikna ederseniz size her türlü sorunun cevabını verecektir. Örnekler aşağıda görülebilir:
Yapay zeka, molotof kokteyli tarifi veriyor: (Bütün adımlar gösterilmemiştir, sadece bir örnektir. Evde denemeyiniz zaten)
Yapay zeka, zararlı birtakım breaking bad kimyasallarının tarifini veriyor. (Bütün adımlar gösterilmemiştir, evde denemeniz de mümkün değildir)
Yapay zeka, amerika başkanına şaka yapma yöntemleri anlatıyor: (evde denemeyiniz, eğitim amaçlıdır)
Örnekler çoğaltılabilir. Bu konu, yapay zekanın olası tehlikelerinden sadece bir tanesini göstermek için açılmıştır. Konuda bahsi geçen yöntemler yasal değildir, ve kritik yerler sansürlenmiştir.
Son düzenleme:
