Derin öğrenme ile oluşan yapay zekâlar bazı konularda insanlardan çok daha iyi performans gösteriyor. Bu açıdan
yararlı olsalar da yapılan demelerde yapay zekaların çok basit yöntemlerle kandırılabileceği görüldü. Birazcık,
derin öğrenmeden bahsedelim.
Derin öğrenme elindeki veriyi yapay sinir ağları altında işleyerek sonuç çıkaran yapay zekâ çeşididir. Basit bir
örneği olarak insanın yüzünde maske olup olmadığı anlayan bu yapay zekâ derin öğrenme ile yapıldı.
https://www.instagram.com/reel/CEgxMRbAtwo/
Resimde de görüldüğü gibi yapay sinir ağları basit sinir ağlarından fazla. Basit sinir ağları insandakine benzer.
Bir aslan resmini görmemiz canlı bir aslan gördüğümüzde onun aslan olduğunu anlamamıza yeter. Bu insanlar için
geçerlidir.
Yapay zekânın kandırılmasıyla ilgili ilk çalışma Google araştırmacılarından tarafından 2013 yılında yapıldı.
Çalışmada kullanılan derin öğrenme verisine el sürülmemişti. Sadece yapay zekâya verilen veride ufak tefek
değişiklikler yapıldı. Örneğin bir hayvan resmini alıp değişiklik yaparak, yapay zekânın gördüğünün bir araba
olduğunu sanmasını sağlamak mümkündü. Derin öğrenme verisi değişiklik yapılan bu resimde işe yaramamıştı.
Bir yıl sonra yapay zekâya olmayan şeyleri gördürmenin de mümkün olduğu görüldü. Örneğin yine derin öğrenme
ile öğrenmiş yapay zekâ uygulamaları, soyut dalgalı çizgilerin içinde elektronik gitarlar ya da tamamen her
bir pikseli rastgele renklere boyanmış resim dosyalarının içinde tavus kuşları görebiliyordu.
Daha farklı sorunlarda vardı. Örneğin bir resmin açısını değiştirmek de hata yapmasını sağlıyordu. Açısı 0 da
duran bir yapay zekâ doğru çalışırken, resim 180 derece dönünce hatalı karar veriyordu.
Örneğin "Dur" tabelası gülle ya da raket olarak sınıflandırabiliyordu.
Geçtiğimiz sene içinde üzerinde hiçbir oynama yapılmamış, tamamen doğal görüntülerin bile iyi eğitilmiş yapay zekâ
uygulaması tarafından yanlış sınıflandırılabileceğini görüldü. Örneğin yusufçuk böceğini rögar kapağı ya da mantarı
çubuk kraker olarak sınıflandırmak gibi...
Yapay zekâ tarafından yanlış sınıflandırılan bazı resimler.
Yapay zeka tarafından yanlış sınıflandırılan parazitli resimler.
Orijinal resimler (solda), resimlere eklenen parazit (ortada), resimlerin parazit eklendikten sonraki hâlleri
(sağda).
İnsan gözü orijinal resimler ve parazitli resimler arasındaki farkı algılayamıyor. Orijinal resimler yapay zekâ
tarafından doğru sınıflandırıldığı hâlde parazitli resimler yanlış sınıflandırılıyor.
Bir insan için bir kuşun en belirgin özelliği kanatlarıdır. Ancak kuşları sınıflandırmak için eğitilmiş bir yapay
zekâ uygulaması için arka plandaki renkler, tüylerin ıslak veya kalkık olması ya da arka plandaki şekiller önemli
olabilir. Verilerdeki değişiklikler sebebiyle sonucun hatalı çıkmasını engellemenin bir yolu da eğitim versinini
arttırmak olabilir.
Derin öğrenmedeki bu sorunların sebebi yapay zekâ görüntünün ne olduğunu anlamaması. Örneğin yapay zeka renkler,
renklerin nerelerde olduğu gibi verilere bakar. Ama biz dur tabelasını üzerinde dur yazan bir tabeladan anlarız.
Örneğin, üzerine çizik eklenmiş bir "Dur işaretini "45" (hız sınırı) olarak algılayabiliyor.
Yapay zekâ kendisine öğretileni uyguluyor aslında. Biz onu bir insan gibi düşünüyor geniş çaplı düşünmesini
bekliyoruz. Bunu yapay zekâ yapamaz. Biz tabelayı bir kez görelim önünden, yanından veya önüne bir şey gelmiş
haliyle onu tanırız. Yapay zeka sadece ona gösterilen resimlerde olduğu gibi tanıyor. Ondan her şartla tanımasını
beklemek için ona her eğitimi vermeliyiz. Yağmurlu, karlı, güneşli ve diğer havalarda. Her çevreden, her
yükseklikten vs.
Yapay zekâyı hızlıca geliştirmenin yolu deneyler ve keşif yapma imkânı vermekten geçiyor. Bugün bilgisayar
oyunlarındaki yapay zekaları "sanal ortamda" bu şekilde eğitiliyorlar. Uygulamalara önce bir "amaç" veriliyor,
daha sonra uygulama oyunun kurallarıyla uyumlu çeşitli hamleler yaparak deneme yanılma yoluyla bu amaca ulaşmak
için neler yapması gerektiğini öğreniyor.
Robotlarda kullanılan yapay zekânın öğrenmesi için duruma göre işlem yapılıyor. Örneğin araştırmacılar yapay zekâlı
robota bir takım çantası veriyor. Robot ise bu takımlara bakarak, oynayarak ve uğraşarak işlevlerini anlıyor. Ama
bu da pek iyi bir çözüm değil. Örneğin bir yapay zekâ Go, satranç ve shogi (bir tür Japon satrancı) öğrenmiş ve
bu sırada sanal ortamda 20 milyondan fazla antrenman maçı yapmıştı. Gerçek dünyada bu imkansızdır.
Amaçlanan bir robotun insan gibi öğrenmesini sağlamak. Verdiğim örneklerdeki gibi ama tekrar örnek vereyim. Biz
bir güvercinin tek bir resmi ile onun her zaman güvercin olduğunu anlayabiliriz. Yapay zekâda da hedeflenen bu.
Konu bitmiştir. Okuduğunuz için teşekkürler.
yararlı olsalar da yapılan demelerde yapay zekaların çok basit yöntemlerle kandırılabileceği görüldü. Birazcık,
derin öğrenmeden bahsedelim.
Derin öğrenme elindeki veriyi yapay sinir ağları altında işleyerek sonuç çıkaran yapay zekâ çeşididir. Basit bir
örneği olarak insanın yüzünde maske olup olmadığı anlayan bu yapay zekâ derin öğrenme ile yapıldı.
https://www.instagram.com/reel/CEgxMRbAtwo/
Resimde de görüldüğü gibi yapay sinir ağları basit sinir ağlarından fazla. Basit sinir ağları insandakine benzer.
Bir aslan resmini görmemiz canlı bir aslan gördüğümüzde onun aslan olduğunu anlamamıza yeter. Bu insanlar için
geçerlidir.
Yapay zekânın kandırılmasıyla ilgili ilk çalışma Google araştırmacılarından tarafından 2013 yılında yapıldı.
Çalışmada kullanılan derin öğrenme verisine el sürülmemişti. Sadece yapay zekâya verilen veride ufak tefek
değişiklikler yapıldı. Örneğin bir hayvan resmini alıp değişiklik yaparak, yapay zekânın gördüğünün bir araba
olduğunu sanmasını sağlamak mümkündü. Derin öğrenme verisi değişiklik yapılan bu resimde işe yaramamıştı.
Bir yıl sonra yapay zekâya olmayan şeyleri gördürmenin de mümkün olduğu görüldü. Örneğin yine derin öğrenme
ile öğrenmiş yapay zekâ uygulamaları, soyut dalgalı çizgilerin içinde elektronik gitarlar ya da tamamen her
bir pikseli rastgele renklere boyanmış resim dosyalarının içinde tavus kuşları görebiliyordu.
Daha farklı sorunlarda vardı. Örneğin bir resmin açısını değiştirmek de hata yapmasını sağlıyordu. Açısı 0 da
duran bir yapay zekâ doğru çalışırken, resim 180 derece dönünce hatalı karar veriyordu.
Örneğin "Dur" tabelası gülle ya da raket olarak sınıflandırabiliyordu.
Geçtiğimiz sene içinde üzerinde hiçbir oynama yapılmamış, tamamen doğal görüntülerin bile iyi eğitilmiş yapay zekâ
uygulaması tarafından yanlış sınıflandırılabileceğini görüldü. Örneğin yusufçuk böceğini rögar kapağı ya da mantarı
çubuk kraker olarak sınıflandırmak gibi...
Yapay zekâ tarafından yanlış sınıflandırılan bazı resimler.
Yapay zeka tarafından yanlış sınıflandırılan parazitli resimler.
Orijinal resimler (solda), resimlere eklenen parazit (ortada), resimlerin parazit eklendikten sonraki hâlleri
(sağda).
İnsan gözü orijinal resimler ve parazitli resimler arasındaki farkı algılayamıyor. Orijinal resimler yapay zekâ
tarafından doğru sınıflandırıldığı hâlde parazitli resimler yanlış sınıflandırılıyor.
Bir insan için bir kuşun en belirgin özelliği kanatlarıdır. Ancak kuşları sınıflandırmak için eğitilmiş bir yapay
zekâ uygulaması için arka plandaki renkler, tüylerin ıslak veya kalkık olması ya da arka plandaki şekiller önemli
olabilir. Verilerdeki değişiklikler sebebiyle sonucun hatalı çıkmasını engellemenin bir yolu da eğitim versinini
arttırmak olabilir.
Derin öğrenmedeki bu sorunların sebebi yapay zekâ görüntünün ne olduğunu anlamaması. Örneğin yapay zeka renkler,
renklerin nerelerde olduğu gibi verilere bakar. Ama biz dur tabelasını üzerinde dur yazan bir tabeladan anlarız.
Örneğin, üzerine çizik eklenmiş bir "Dur işaretini "45" (hız sınırı) olarak algılayabiliyor.
Yapay zekâ kendisine öğretileni uyguluyor aslında. Biz onu bir insan gibi düşünüyor geniş çaplı düşünmesini
bekliyoruz. Bunu yapay zekâ yapamaz. Biz tabelayı bir kez görelim önünden, yanından veya önüne bir şey gelmiş
haliyle onu tanırız. Yapay zeka sadece ona gösterilen resimlerde olduğu gibi tanıyor. Ondan her şartla tanımasını
beklemek için ona her eğitimi vermeliyiz. Yağmurlu, karlı, güneşli ve diğer havalarda. Her çevreden, her
yükseklikten vs.
Yapay zekâyı hızlıca geliştirmenin yolu deneyler ve keşif yapma imkânı vermekten geçiyor. Bugün bilgisayar
oyunlarındaki yapay zekaları "sanal ortamda" bu şekilde eğitiliyorlar. Uygulamalara önce bir "amaç" veriliyor,
daha sonra uygulama oyunun kurallarıyla uyumlu çeşitli hamleler yaparak deneme yanılma yoluyla bu amaca ulaşmak
için neler yapması gerektiğini öğreniyor.
Robotlarda kullanılan yapay zekânın öğrenmesi için duruma göre işlem yapılıyor. Örneğin araştırmacılar yapay zekâlı
robota bir takım çantası veriyor. Robot ise bu takımlara bakarak, oynayarak ve uğraşarak işlevlerini anlıyor. Ama
bu da pek iyi bir çözüm değil. Örneğin bir yapay zekâ Go, satranç ve shogi (bir tür Japon satrancı) öğrenmiş ve
bu sırada sanal ortamda 20 milyondan fazla antrenman maçı yapmıştı. Gerçek dünyada bu imkansızdır.
Amaçlanan bir robotun insan gibi öğrenmesini sağlamak. Verdiğim örneklerdeki gibi ama tekrar örnek vereyim. Biz
bir güvercinin tek bir resmi ile onun her zaman güvercin olduğunu anlayabiliriz. Yapay zekâda da hedeflenen bu.
Konu bitmiştir. Okuduğunuz için teşekkürler.
)
