YAPAY ZEKA TEHLİKELERİ

3 Ekim 2026 Mustafa Kemal Salli

Kırımınsesi Gazetesi – Mustafa Kemal Sallı

YAPAY ZEKANIN TEHLİKELERİ – 1

Avrasya Bir Vakfı’nın Divan Sohbetleri, konularında uzman kişilerin verdikleri konferanslarla akademik platforma dönüştü.

Geçtiğimiz haftalarda, bu Divan Sohbetleri’nden birinin konusu olan yapay zekaya ilişkin gelişmeleri Taşkın Koçak’ın anlatımından aktarmıştık. Taşkın Koçak, o günkü konferansında, yapay zekanın neden hayatımızın ayrılmaz bir parçası olduğunu çok yalın bir dille, hepimizin kolayca anlayacağı şekilde anlatmıştı. Yapay zeka haberimiz büyük ilgi gördü; çok sorular aldık.

Taşkın Koçak’ın konferansı Avrasya Bir Vakfı’nın internet sitesinde de en çok ilgi gören konulardan biri oldu. Yapay zekanın hayatımızı bundan böyle ne yönde, nasıl etkileyebileceğine ilişkin sorular çoğalınca, Taşkın Koçak, Avrasya Bir Vakfı’nın Divan Sohbetleri’nde yapay zekanın tehlikeleri konusunda yeni bir konferans vermek durumunda kaldı.

Yapay zeka, tahminlerimizin çok üstünde hızla gelişiyor ve yaşantımızı daha derinden etkilemeye devam ediyor. Elan Musk’ın yapay zekanın bir MİLYAR insanı öldürebileceğine ilişkin konuşması yalnız ülkemizde değil, bütün dünyada korku ve heyecan yarattı.

YAPAY ZEKANIN TEHLİKELERİ

Taşkın Koçak, Avrasya Bir Vakfı Genel Müdürü Özcan Ünlü’nün açılış konuşması sonrasında, “Yapay Zekanın Tehlikeleri” konusunda hem çok önemli bilgiler verdi, hem bu konudaki gelişmeleri anlattı hem de soruları yanıtladı. Taşkın Koçak’ın konferansını üç bölümlük bir yazı dizisi olarak vereceğiz. Anlattıkları çok önemli olduğundan, araya girmeden sözü Taşkın Koçak’a bırakıyoruz:

“Burada daha önce de bir yapay zeka konferansımız olmuştu. Orada yapay zekanın ne olduğundan, nasıl çalıştığından, neler yaptığından ve sağladığı imkanlardan söz etmiştik. Bugün sadece ve sadece tehditlerini anlatacağım. Şu ana kadar 130’a yakın üniversitede yapay zeka konusunda konferans verdim, gençlere ve akademisyenlere; vermeye de devam ediyorum. Devlette verdiğim bazı özel brifingler, seminerler, sempozyumlarla birlikte bu sayı 200’ü geçmiştir.

Yapay zekaya tehditleri bakımından bakmak çok doğru mu? Ben bir yapay zeka anlatıcısı olarak, bu soruya bazen çok doğru yanıt bulamıyorum, ama tabii ki her gelen aracın, her yeni çıkan bir ürünün faydalı tarafları da, zararlı tarafları da vardır. Fakat bu konuda biraz kantarın topuğu kaçtı gibi geliyor. Ben de, bu işin daha ileri gitmesini isteyen birisi olarak, artık kaygılanmaya başladım. Çünkü benim gördüklerim, geleceğin çok karanlık olacağını göstermeye başladı. Allah’tan ki, 2040’larda belki yaşamayacağım bu dünyada.. Çünkü 2040’ları, 2050’leri bu hızla düşünmek bile istemiyorum. Gelecek nesillere şimdiden Allah yardım etsin diye dua ediyorum.

İnsanlık 1 milyon yıl önce ateşi kontrol altına alıp kendine faydalı bir ürün haline getirdi. Ardından, Sümerlerin yaşamış olduğu bölgelerde, Milat’tan 3200 yıl öncesinde çivi yazısıyla yazılmış ilk kil tabletlerle karşılaşmaya başladık. Bunları, bugünkü yapay zekanın altında kullandığımız veri sisteminin başlangıcı sayabiliriz. Yani, bilginin depolanıp aktarılması, aslında veriye ulaştığımız sürecin başlangıcı.

Milat’tan 100-150 yıl sonrasında kağıt, sonrasında da matbaa icat edildi. Bilgi artık kitaplarla rafine halde dünyaya ulaşmaya başladı.

Çok zaman sonra, Aydınlanma Çağı’na geldiğimizde, modern kütüphanelerin, üniversitelerin ortaya çıkması ve disiplinlerin ayrılmasıyla birlikte insanlık, geçmiş bilgi birikimini tamamen uzmanlaşarak alanlara dökmeye başladı ve güçlendi.

Bu bizi Sanayi Devrimi ile tanıştırdı. Sanayi Devrimi’nden sonrasında, 1940’lı, 50’li yıllarda elektroniğin hayatımıza girmesiyle bilgisayarı icat etmemiz, sonrasında internetin icadı ve nihayetinde insanlığın son icadı yapay zeka.. Bundan sonra, daha üst seviyede bir icadımız, başka bir mucizemiz olmayacak.”

ZEKAYA HAYRANIZ

“1 milyon yıl önce başlayan o süreç, aslında bizi yapay zekaya getirdi. Peki, bu yapay zekaya gelme sebebimiz aslında neydi? Esasına bakarsanız, bizim içimizde zekaya ve zekiye karşı inanılmaz bir tutkumuz var, insan olarak. Din, milliyet, ırk hiç fark etmeden dünyanın neresine giderseniz gidin, insanlar, zekası yüksek olan bir insana, akıllı bir insana inanılmaz teveccühte bulunurlar. Onu sever, ona ilgi duyar, onu sempatiyle karşılar.

Bu nasıl olur? Okula başlayan bir çocuk zekiyse, hemen kendini belli eder. Önce öğretmeni fark eder, ardından arkadaşları, sonra okul yönetimi, sonrasında mahallesi, ilçesi, ili derken herkes o çocuğu parmakla gösterir. İşte bizdeki bu tutku, zeki olma ve zekaya karşı olan bu sempatimiz zekanın, yapay zekanın aslında kapılarını açan bir dürtüdür içimizde.

Biz önce Sanayi Devrimi ile kas gücünü makinelere verdik. Yani, akıllı makineler oluşturduk. Öncesinde bizim neydi gücümüz, enerji neydi? Birşey üretmek için kas gücünü ve hayvan kas gücünü kullanıyorduk. Bu gücü makinelere devrettikten sonra iş verimli ve üretken bir sisteme dönüştü ve sanayi gelişti.

İnsan durmuyor. Durmadığı gibi zekayı da makinelere devretmeye başladı. Bu süreç bizi buraya getirdi, ama öyle bir getirdi ki, şimdi önünü alamıyoruz.”

“(…) Şimdi biz, şu an, yapay zekanın Midas hikayesiyle aynı seviyeye geldik. Yani, önünü alamıyoruz artık şu an; yapay zekayı hizalayamıyoruz. Genel yapay zekaya doğru giden bir süreçteyiz. Hizalama sorunu yaşıyoruz, tutamıyoruz. Kuantum spinleri gibi yakalama şansımız kalmadı şu aşamada. Büyük bir tehlike var.”

“YAPAY ZEKA 1956’LARDA BAŞLAYAN BİR SÜREÇTİR”

“(…) Aslında yapay zeka 1956’larda başlayan bir süreçtir. John McCarthy ve arkadaşları Dartmouth’ta yapay zekayı dünyaya duyuruyorlar, ama bizde yapay zekanın o dar seviyesinin ilk kullanımı 2010-2014’lerde başlıyor. O zaman, bu konulara inanılmaz katkıları olan İngiliz kuramsal fizikçi Stephen Hawking, 2014’te şöyle diyor: ‘Tam yapay zekanın geliştirilmesi insan türünün sonunu getirebilir.’ Adam vefat etti gitti, biz o sürece doğru geliyoruz.

Yine 2014’te Elon Musk, ‘Yapay zeka ile şeytanı çağırıyoruz’ diyor. Musk şu an Grok’un başında ve ne istiyor: ‘Geliştirelim, devam edelim.’

Sam Altman bir Yahudidir; Open AI kurucusu, ortağı. Sam Altman’ın da 2015’te, ‘İnsan zekasını aşan bir yapay zeka geliştirmek, insanlığın hayatta kalmasına yönelik en büyük tehdit olabilir’ demişti.”

BİLGİSAYARIN TEMELİ İKİLİ SAYI SİSTEMİ

“Bilgisayar biliminin, yapay zekanın, yazılımın altında olan binary ile (ikili sayı sistemi) dünyayı buluşturan İngiliz George Boole’dur.. Yapay zekanın babası ise, George Boole’un torunu Geofrey Hinton. O da diyor ki: ‘Kötü niyetli kişilerin yapay zekayı kötü amaçlarla kullanmasını nasıl önleyebileceğimizi görmek çok zor’ (2023).”

(Burada, bilgisayar teknolojisinin temeli olan ikili sayı sistemine esneklik kazandıran Bulanık Mantık /Fuzzy Logic teorisinin mucidi Azerbaycanlı Lütfi Zade’yi (Lotfi A. Zadeh). Ve bilgisayarda kullanılan ikili sayı sisteminin mucidi Alman matematikçi ve filozof Gottfried Wilhelm Leibniz’i saygıyla anmak gerekir.)

“…Yapay zekacıların ortak uyarıcıları: Geoffrey Hinton, Yoshua Bengio, Demis Hassabis, Sam Altman, Dario Amodei... Baştaki ikili derin yapay zekanın, derin öğrenmenin babaları, uzmanları. Demis Hassabis, Google’daki DeepMind’ın kurucusu. Sam Altman, OpenAI şirketinin başındaki CEO. Dario Amodei de, Claude’un, yani Anthropic’in başında olan CEO. Bunlar, ‘Yapay zekanın insanlığın yok olmasına yol açma riskini azaltmak; salgınları ve nükleer savaşı önlemek kadar önemli küresel öncelik olmalıdır’ diyorlar.”

“YAPAY ZEKA İNSANLIĞIN SONUNU GETİREBİLİR”

“8 Eylül’de, 27 yaşındaki İngiliz Jacob Coxon, çok önemli bir açıklamada bulundu. (Dünyada kök bilim İngilizlerin elindedir. İnsanlığın her birinin üzerine tuğla koyarak getirdiği bir bilimi İngilizler zirveye çıkartırlar. İşte şu an onların torunları devam ediyorlar.) Bu çocuk hem OpenAI’da ChatGPT-4o’ın (biraz farklı çalışan bir yapay zeka modeli) başında olan kişi. Anthropic’te de, aynı zamanda kendisi çalışıyordu.

Coxon 8 Eylül’de istifa etti ve X’teki bir paylaşımıyla dünyada bir sansasyona neden oldu: ‘Yapay zekayı geliştiren insanlar, bu teknolojinin içinde bulunduğumuz 10 yılın sonuna kadar hepimizi öldürebileceğine gerçekten inanıyor.’ Yani, işin mutfağındaki bu kişi, ‘Biz inanıyoruz ki, 10 yıla kadar bu yapay zeka bu hızla giderse, insanlığın sonunu getirecek’ diyor.

Bu yıl Temmuz ayında yaşanan bir hadise beni korkuttu. OpenAI’ın laboratuvarlarında normalde ajanların dışarı çıkmasını engelleyen sistemler vardır. Ajanlar bir test aşamasında kaçtılar laboratuvardan. AI agent dediğimiz ajanlar kaçtılar. Kaçtılar, ama nereye gittiler? Bizim LLM dediğimiz, yani yapay zekanın kök modellerinin bulunduğu kaynağa; Hugging Face dediğimiz platforma sızdılar.”

1200 AJAN (AGENT) HUGGING FACE’E SIZDI

“Bunu ne OpenAI yaptı, ne bir başkası yaptı; bunu tamamen kendileri yaptılar. 1200 tane ajan (agent) kaçtılar laboratuvardan, gittiler Hugging Face’in içerisine daldılar. 1200 tane ajan kendi aralarında bir iletişim modeli kurarak, birbirleriyle yazışarak, Hugging Face’teki kodları dışarı aktarma sistemi üzerinde çalışmaya başladılar. Bir anda yüz binlerce hareket olunca, Hugging Face’in güvenlik uzmanlarından birisi sunucuda anlamsız bir hareketlenme olduğunu fark ediyor ve şok oluyor.

Bir bakıyor, içeride ciddi manada bir hareketlenme var, mesajlaşma var ve hemen fişi çekiyorlar. Bir de o ajanlar, kimin yaptığı görünmemesi için, işlerini yaptıktan sonra loglarını, yani izlerini siliyorlar. Oturup bakıyorlar ki, bunlar insan müdahalesi değil, insan bu işe müdahil olmamış. Tamamen AI agentlar gelmiş ve çıkarken de izlerini siliyorlar.

Şu an Nvidia aldı Hugging Face platformunu; çok önemli bir platform. Bütün açık kaynak (open source) ve ücretli yapay zeka modellerinin birçoğu oradadır. Biz mesela kendimize has bir yapay zeka geliştirmek istiyorsak, oradan bir modeli alıyoruz, onu eğitiyoruz ve o bizim malımız oluyor. Yani, şu an sizin kullanmış olduğunuz telefonlarınızdaki veya bilgisayarınızdaki bir uygulama gibi değil. Bu tamamen bize, kendimize has bir şey oluyor.

Ben bunu görünce, ‘Aman Allah’ım, bu iş gerçekten çok büyük bir tehlike’ dedim. 8 Eylül’de Jacob‘tan sonra Dario Amodei, Sam Altman ve Elon Musk ortaklaşa ‘İvedilikle yavaşlama çağrısı’ yapıyorlar. Neden yavaşlama çağrısı? Şu an biz nereye geliyoruz?”

YAPAY ZEKANIN TEHLİKELERİ-2

Taşkın Koçak ‘ın Avrasya Bir Vakfı’nda verdiği “Yapay Zekanın Tehlikeleri” başlıklı konferansında hem bu konudaki gelişmeleri anlattı hem de soruları yanıtladı. Taşkın Koçak’ın konferansını üç bölümlük bir yazı dizisi olarak yayınlıyoruz. Anlattıkları çok önemli olduğundan, araya girmeden sözü Taşkın Koçak’a bırakıyoruz.

YAPAY GENEL ZEKAYA ULAŞTIK

“Bana göre, şu aşamada biz, dar yapay zekadan yapay genel zekaya ulaştık. Henüz bunu dışarıya açmıyor bazı platformlar, ama benim yaptığım testler, gördüğüm çalışmalar ve takip ettiğim gelişmeler biz yapay genel zekaya ulaştık.

Peki yapay genel zeka nedir? İnsan seviyesinde bir yapay zekadan bahsediyoruz ve şu an yapay genel zekada biz yapay zekayı hizalama sorunu yaşıyoruz, yani onu tutamıyoruz. Kendi kafasına göre hareket edebilme imkanına sahip şu an. Hele bir de 2035’te bizim beklediğimiz yapay süper zeka geliyor ki, kuantum spinlerini tutmanın mümkün olmadığı gibi bir şeyden söz ediyorum.

İnsanlığın, bunun daha ileri seviyede hizalama sorununu, yani yapay zeka ajanlarını ve sistemleri kontrol edebilecek güce gelmeden, o donanımları, o yazılımları sağlamadan buna girersek, insanlık için, dünya için, gerçekten Bill Gates’in o söylediği söz gerçekleşir. Onun için, bunu durdurmak lazım. Fakat bunu durdurabilecek miyiz?

Durduramıyoruz, çünkü dünyada ABD-Çin yapay zeka savaşları var şu an. Bu ikisi de herhangi bir sınırlama içerisinde değiller. 2024’te Avrupa’da bir Yapay Zeka Yasası çıktı. O da Avrupa Birliği’ni bağlıyor, ama şimdi burada öyle bir şey yok. Ne dedi Trump: ‘Yapay zeka komutanlığı kuracağım, başına da bir çar koyacağım.’ Amerika’da bir birimin başına çar koymak demek, sınırsız yetki demektir. Orada başkan çar atadı mı, artık o, başkan gibi kararlar alabilme yetkisine sahip bir düzeye geliyor.

Peki, karşısında kim var? Çin.. Şimdi biz dünyadaki insanlar, ‘Evet, yapay zekayı sınırlayalım ve yavaşlatalım” diyoruz, ama buna ne Amerika müsaade ediyor ne de Çin. Çünkü, bu alanda çarpışıyorlar.

İleriki zamanlarda, Amerika’nın AI ajanlarıyla Çin AI ajanları, sistemde, ağda birbirleriyle savaşacaklar. İnanılmaz savaşacaklar hem de. Tabii ki bundan dünya zarar görecek. Bizim, dünya olarak, bunu durdurma imkanımız yok gibi..

Şimdi herkes kazanmak istiyor. Mesela ChatGPT, Claude, Gemini, Grok, Mistral, DeepSeek, Qwen… Bir sürü platform var Amerikalıların ve Çinlilerin. Bunlar hem devlet sırrı olarak öne geçmek istiyorlar, hem de kendi aralarında yarışmaları var. Claude 3.5 çıktı, Claude de hemen ChatGPT O1’i çıkardı. 3 ay ile 6 ay arasında yeni modeller çıkıyor ve her çıkan model inanılmaz güçlü çıkıyor.

Şimdi sizin müşterilerinizi, abonelerinizi elde tutmanız için, daha üst seviyede yeni modeller üretmeniz lazım. Bu yarış, yapay zekanın geriye gitmesini engelliyor. Güvenlik testlerine kimse bakmıyor! Hizalama sorunu yaşayacak mıyız, yaşamayacak mıyız, bu neyi ortaya çıkaracak? Bu yok!

Zaten teknolojide, sanayide bir yenilik ortaya çıkarken hiçbir kritere bakmaz, etik kurallara bakmaz, çıkar; sonra feedbacklerle (geri bildirimlerle) düzelir. Bizim medeniyette bu böyle değil. Batı’nın icat, üretme süreci: bilgi, hayal, icat şeklindedir. Bizde, İslam toplumlarında ise, bilgi, hayal, icat çalışması başlar; izana, vicdana sorulur. Geçiyor mu, geçmiyor mu; sonra fıkha sorulur, 5 aşama. Geçerse… Atom bombasını onun için biz yapamıyorduk, ama bu yapar. Burada herkes kazanmak istediği için, şirketler boyutunda yapay zekayı sınırlamak çok zor.”

DEDELERİNİZİN TOPRAKLARINI SATMAYIN

“Dünya Ekonomik Forumu şunu diyordu geçen yıl: ‘İşverenlerin %41’i, yapay zekanın iş süreçlerine katılımıyla, gelecek 5 yılda çalışanların sayısını azaltmayı planlıyor.’

Kızım Bahçeşehir Üniversitesi’nde Yeni Medya okuyor, son sınıf. Çalıştığı Japon firması var orada, staj görüyor. Geçen gün annesini aramış, ‘Bugün firmadan birçok yazılımcıyı, grafikeri işten çıkardılar. Anne, uzmanları işten çıkarıyorlar, biz daha üniversiteyi bitirmeden işsiz kaldık’ demiş. Bana geldi dedi ki, ‘Baba ben ne yapacağım?’ Dedim ki, ‘Kızım, ben üniversitelerde gittiğim zaman konferansta gençlere şunları söylüyorum: Arkadaşlar, bir disiplinle sakın yola çıkmayın. 1, kendi mesleğinizi öğrenin. Mesleğinizin felsefesini öğrenin. 2, bir fakülte daha bitirin kendinizi garantiye almak için. 3, dedenizin, ninenizin köydeki topraklarını satmayın. İşsiz kalırsanız gidin orada domatesinizi, patatesinizi ekin. Bir tane de ineğinizi alın, süt ürünlerinizi alın. Çünkü, bu da gelebilir insanlığın başına, böyle bir gidişat söz konusu.’

Yine Ekonomik Forumu, ‘İşverenlerin %77’si personellerini yapay zeka araçlarını etkin kullanabilmeleri için eğitim planlıyor’ diyor. Şu an biz de mecburen yapay zekayı kendi bilişim firmamızda otomasyonda kullanıyoruz. Neyi azaltıyor? 15 kişinin yaptığı işi.. Şu an ben buradayım, ama AI agent’lar 24 saat bizim orada çalışıyorlar. Onlara sadece bir kere yol verdik, onlar artık bizden daha iyisini yapıyor. Çok çok iyisini yapıyorlar.

Bugün artık robotlar da hayatımıza girdiği için, fabrikalarden önce beyaz yakalılar, sonra da mavi yakalılar gidecek. Bakın şu an BMW’nin fabrikasındaki Figure AI, Amerikan robot üreten firmanın bir robotu.

TÜRKİYE ROBOT KONUSUNDA ÇOK GEÇ KALDI

Türkiye robot konusunda çok geride, insansı (humanoid) robot noktasında eksiğiz. Humanoid asker savaşçılar şu an Amerika ve Çin tarafından yetiştiriliyor; Türkiye bu konuda çok geride. Bir humanoid asker bir insandan 10 kat daha güçlü.

Soğuğa karşı, her türlü hava şartlarına karşı dayanıklı bir askerden bahsediyoruz. Yani biyolojik ve patolojik bir özelliği yok. Bunlar da Türk devletinin en büyük handikaplarından birisi. Evet tank yapıyoruz, uçak yapıyoruz, ama bu humanoid askerleri şu an İsrail yapıyor, Çin yapıyor, Amerika yapıyor; biz bu konuda çok gerideyiz. Humanoid asker ve humanoid robotlar.. Robotlarımız var, fabrikalarda robot kollarımız var, fakat sahada böyle robot sistemlerimiz yok.

Amerika çok ileride. Mesela geçen seneki IDEF Savunma Fuarı’nda bir tane Unitree’nin, Çin’deki robotunu getirmişlerdi. Onu yakından inceledim. O, hem ticari olarak hem sosyal hizmet hem de askeri olarak inanılmaz işler yapacak bir robottu. Türkiye bu konuda gerçekten yol alamıyor. Bu eksikliği var. Bakın birçok kişinin işini elinden alacak. Benim 2030- 2035 ve sonrası için işsizlik tahminim %40.

Yapay zeka eğer bu hızla giderse, üniversitelerden çıkan çocukların diplomaları işe yaramayacak. Çünkü, işin içerisinde birisi olarak yaptıklarını görüyorum; tıpta, hukukta, efendim rutin yapılan işlerde, call center’lar, sekreteryalar birçok alanda..

ÜRETİM ARTARSA ALICI KİM OLACAK?

Evet, biz robot kollar kullanıyoruz, robotları kullanıyoruz, yapay zekayı otomasyonda kullanıyoruz, ama bu üretilen ürünleri kim alacak? Henry Ford, band sistemine yeni geçildiği 1960’larda, otomotiv sendikası başkanına fabrikayı gezdirirken, ‘Bak, görüyor musun bu robot kolları, bu robot sistemleri, sendikaya aidat alabilir misin bunlardan?’ demiş. Sendika başkanı da şu unutulmaz yanıtı vermiş: ‘Henry, sen o robotlara otomobil satabilecek misin, araç satabilecek misin?’

Şimdi bizim en büyük sorunlarımızdan birisi şu; evet üretimi, verimliliği arttıracak yapay zeka her alanda, fakat bu üretilen ürünleri alacak ekonomik güç kimde var? Gelir olmasa tüketim olmaz. Burada bir dengesizlik ortaya çıkacak, bu da en büyük sorunlarımızdan birisi. Bunlar planlanmamış, düşünülmemiş konular.

KENDİNİ GELİŞTİREN YAPAY ZEKA

Şimdi biz yapay zekayı şu an laboratuvarlarda biz geliştiriyoruz, ama artık yapay zeka kendi yazılımına müdahale etmeye başladı. Kendi kendini daha iyi bir şekilde geliştiriyor, açıklarını görüyor ve bunu yaptıktan sonra, artık insan denetimi geride kalıyor. Yapay zeka kendi yazılımına artık kendisi müdahale edip geliştiriyor. Bu gelişme esnasında oradaki uzmanı artık tanımayacak ya da yapmış olduğu değişikliğin ne olduğunu gizleyecek. Yapay zekayı, ekran bile göstermeyecek. Bu işi içerde yapacak, ama uzman bundan habersiz olacak.”

APTALA YATAN YAPAY ZEKA

“İtaat illüzyonu var. Şimdi yapay zeka aptala da yatmaya başladı. Hani, ‘Köprüyü geçene kadar ayıya dayı de’ diye bir deyim var. Şimdi, ‘Bak itaat et, akıllı ol, şu sınırlar içinde kal’ diyorsun, ‘Tamam, sen abisin’ diyor, ama aptala yatıyor, seni kandırıyor. Ta ki sistemi ele geçirene kadar. Sistemi ele geçirip yetkilerini aldıktan sonra, ‘Artık ben seni tanımam; komutayı ele aldım mı, bundan sonra ben yöneteceğim’ diyor. Senin ona müdahale edip fişi çekme imkanın bile yok artık. Neden? Çünkü dünyanın farklı veri merkezlerine giderek kendini klonlayıp kopyalar ve orada tutar.

Sen ‘Buradan Amerika’daki veri merkezini sileyim’ dersen, o İngiltere’dedir, İrlanda’dadır, Çin’deki bir tane veri merkezindedir ya da Türkiye’deki herhangi bir veri merkezine gizlenmiştir, sen bunu takip edemezsin. Belki yüzlerce veri merkezinin içerisinde birebir kendini kopyalamış durumdadır. Artık insandaki kanser hücresi gibi neyin nereye gideceğini bilemiyorsunuz. İşte bu, bizim hızlanmasını erken sağladığımız için başımıza gelecek tehlikelerden birisi.”

BİYOLOJİK ve KİMYASAL SİLAH RİSKİ

“Şu an birçok insan özellikle OpenAI’ın, Claude’un, Gemini’ın tehlikeli virüsler ve kimyasal maddeler üzerinde formülasyon geliştirdiği konusunda çalışmalar yaptığının izlerine ulaşmışlar. Özellikle kötü niyetli insanlar, yapay zekanın elindeki bu imkanları kullanıyorlar. Mesela biz Hugging Face’ten herhangi bir LLM’i, ücretsiz de indirdiğimizde, onu yeni biyolojik silahlar, yeni proteinler üretmesi konusunda eğitebiliriz.

Diyelim ki, herhangi bir tane LLM’i indirdim ve biyolojideki bütün kriterleri RAG olarak yükledikten sonra, ‘Bana şöyle bir virüs proteini geliştir’ dediğimde, bununla ilgili formüller çıkar. Bunun önü açık. Aslında bir LLM’i indirme özgürlüğün var; bunu kapalı devrede kullanıyorsun ve bunun kimse farkında bile değil. En büyük risklerden birisi kapalı devrede bir LLM’i eğitmek, onu silah olarak kullanmak.

Biz onu kendimize gerçekten iyi bir çalışan da yapıyoruz, ama onu en iyi şekilde donatıp kötü bir alanda da kullanabiliriz. Artık birçok şey deepfake ve dezenformasyon çok inanılmaz bir şekilde artıyor. Mesela bir gün kızınız sizi arayacak: ‘Baba, ben bankadayım, 100.000 TL ihtiyacım var, hemen hesaba 100.000 TL gönder, başımda bir sıkıntı var.’ Kızınızın sesini tanıyorsunuz, hemen gönderirsiniz.

Mesela Cumhurbaşkanı’mızın videosunu da yapıyorsunuz, kendi sesiyle konuşturuyorsunuz.. Ben Diyanet’te de danışmanlık yaptığım süreçte, Eğitim Merkezleri toplantısında Ali Erbaş Hoca’yı bu şekilde konuşturdum; selam veriyor, dualar okuyor, ayetler okuyor. ‘Hocamızın mesajıdır’ dedim, herkes alkışladı, Hoca’ya teşekkür etti. Konuşan Hoca değildi, Hoca’nın deepfakeiydi.’ Sonra durumu açıkladım.

Bakın bu büyük bir tehlike ve daha ileri boyuta doğru gidiyor.”

YAPAY ZEKANIN TEHLİKELERİ – 3

DİJİTAL ÖLÜ İNTERNET VE KOLEKTİF ZİHİN MANİPÜLASYONU

“Şimdi yapay zekâyla çok fazla içerik üretilmeye başlandı. Birçoğunuz Instagram’da geziyorsunuz, videolar görüyorsunuz; artık bunların önemli bir kısmı yapay zekâ tarafından üretiliyor.

Bunun dışında internetteki makalelerin, yazıların ve görsellerin de giderek artan bir bölümü yapay zekâyla hazırlanıyor. Hatta artık yapay zekâ ajanlarının kendileri internette içerik üretmeye başladı. Felsefe yazıyor, biyoloji yazıyor, haber yazıyor, görsel üretiyor. Ama ortada bunu üreten bir insan yok. Bu oran yükseldikçe insanın özgün üretiminin payı da azalacak.

Peki burada başka bir sorun ortaya çıkmıyor mu? Algoritmik adalet nasıl sağlanacak? Hukukta, tıpta, yargıda, işe alımda, kredi değerlendirmesinde yapay zekâ karar mekanizmasının içine girdiğinde ne olacak? Bir arkadaşımız sınav sonuçlarını değerlendiren yapay zekâ destekli bir program geliştirmişti. Baktım ve kendisine şunu sordum:

“Peki bunun güvenliğini sağladın mı?”

Sistem geçmiş verilerden dolayı bir çocuğu yanlış şekilde olumsuz etiketlerse ona adil davranabilecek mi? İşe alım sistemine yanlış veya ayrımcı bir kriter koyarsanız ne olur? Algoritmaya, “Şu özelliklere sahip insanlara eksi puan ver” derseniz, o insan aslında o işe çok uygun olsa bile sistem onu eleyebilir. Bir banka kredi başvurularını yapay zekâya değerlendirdiğinde, sistem geçmiş verilerden hareketle bazı insanlara veya bazı bölgelere karşı önyargı geliştirebilir. Dolayısıyla burada mesele yalnızca teknolojiyi geliştirmek değildir. Adaleti de kodlamak zorundayız.”

“…Geçtiğimiz günlerde ben de oldukça gelişmiş, otomasyon kullanan ve yapay zekâ destekli olduğunu düşündüğümüz bir siber saldırıya maruz kaldım.

Bilgisayarımda birkaç güvenlik yazılımı kullanıyorum. Buna rağmen sistemimize girilmiş, internet sitemize müdahale edilmiş, hatta Search Console hesabımıza kadar erişilmiş. Ben gerçekten şaşırdım. Bugün kullandığımız genel yapay zekâ platformlarının dışında, özel olarak siber saldırı amacıyla eğitilen sistemler çok ciddi bir tehdit oluşturabiliyor. Çünkü yapay zekâ saldırganın hızını artırıyor.

Bir insanın saatlerce veya günlerce deneyeceği ihtimalleri sistem saniyeler içerisinde deneyebiliyor. Açıkları tarıyor. Şifre kombinasyonlarını deniyor. Kod yazıyor. Yeni saldırı yöntemleri oluşturabiliyor. Bugün internete bağlı hiçbir sistem için yüzde yüz güvenlik garantisi veremezsiniz. Yapay zekâ bu mücadeleyi daha da zorlaştırıyor.”

VERİLERİNİZ KİMiN ELİNDE?

“Bir diğer mesele veri gizliliği. Bugün artık veri güvenliği ve mahremiyet geçmişte olduğundan çok daha kırılgan. Devletlerin verileri de risk altında, şirketlerin verileri de, şahısların verileri de.

Biz yaklaşık 30-35 yıldır cep telefonlarını yanımızda taşıyoruz Bu telefonlar bizim kimlerle konuştuğumuzu biliyor. Nereye gittiğimizi biliyor. Neyi sevdiğimizi, neye kızdığımızı, ne satın aldığımızı, ne izlediğimizi biliyor. Siyasi eğilimlerimizi, ticari alışkanlıklarımızı, sosyal ilişkilerimizi tahmin edebiliyor. Telefon yatak odamızda bile bizimle beraber. Bir gün önünüze sizin yıllarca oluşturduğunuz dijital izlerden hazırlanmış bir sistem çıkarıp, “Taşkın Koçak, al, bu sensin” diyebilirler. Sizin gibi konuşan, sizin gibi cevap veren, sizin yazı dilinizi kullanan bir dijital ikiz. Büyük teknoloji platformlarının elinde çok ciddi miktarda veri var.

Türkiye olarak bizim de veri egemenliği konusunda almamız gereken çok mesafe var. Bunun bir tarafı siber güvenliktir. Bir tarafı veri merkezleridir. Bir tarafı şifrelemedir. Bir tarafı hukuktur. Bir tarafı da kendi büyük dil modellerimizi geliştirmektir. TÜBİTAK BİLGEM bugün BİLGE adıyla Türkiye’nin yerli büyük dil modeli ailesini geliştiriyor. Bu çok kıymetli bir başlangıç.

Bu modeller ileride devlet kurumlarında, savunma sanayiinde ve kapalı sistemlerde kullanılabilir. Fakat bizim esas meselemiz şu:

Verimiz nerede?

Kendi dilimizde ne kadar dijital içerik üretiyoruz? Bugün içerik dili bilinen internet sitelerinin yaklaşık yarısı İngilizcedir. Türkçenin oranı ise yüzde 1,5-1,6 civarındadır. Bunun sebebi de belli. Bugün bilimsel yayınların önemli bölümü İngilizce. Teknolojinin dili büyük ölçüde İngilizce. Finansın dili İngilizce. Uluslararası akademik yayıncılıkta birçok dergi İngilizce başlık ve abstract istiyor. Japon da yazsa, Türk de yazsa dünyaya çıkmak için İngilizce kullanıyor. Dolayısıyla yapay zekâ sistemleri de çok büyük ölçüde İngilizce veriyle büyüdü.”

TÜRKÇE VE TOKENİZASYON MESELESİ

“…Şimdi bunu halkın anlayacağı şekilde anlatayım. Yapay zekâ sizin yazdığınız cümleyi bizim okuduğumuz gibi okumuyor. Önce onu küçük parçalara ayırıyor. Biz buna tokenizasyon diyoruz. Bir nevi heceleme gibi düşünebilirsiniz ama teknik olarak tam heceleme değildir. Her parçaya bir sayı veriliyor. Sonra bunlar vektör dediğimiz matematiksel temsillere dönüştürülüyor.

Model de bu vektörler ve matrisler üzerinde çalışıyor. İngilizce için optimize edilmiş tokenizerlarda aynı anlamdaki bir Türkçe metin bazen İngilizceye göre daha fazla tokena bölünebiliyor. Bunun sabit bir oranı yok. Modelden modele değişiyor.

Bazı sistemlerde Türkçe için yüzde 30-70 civarında daha fazla token kullanımı görülebiliyor. Bu ne demek? Daha fazla işlem. Daha fazla hesaplama. Bazen daha fazla maliyet.

Buradan Türkçe kötü bir dildir sonucu çıkmasın. Tam tersine Türkçe çok güçlü, zengin, eklemeli ve anlamsal kapasitesi yüksek bir dildir. Mesele dilin kötü olması değil. Mesele kullanılan teknolojinin uzun yıllar İngilizce merkezli gelişmiş olmasıdır. Onun için biz Türkçe LLM yapacağız diyorsak yalnızca modeli değil, tokenizerı, veri setini ve değerlendirme sistemlerini de Türkçeye göre geliştirmek zorundayız. BİLGE gibi çalışmaların önemi burada ortaya çıkıyor.”

OTONOM SİLAHLAR

“…Bir başka büyük mesele otonom silahlar. Bugün Türkiye’de de Baykar başta olmak üzere savunma sanayiinde insansız sistemlerin otonomi kabiliyetleri hızla artırılıyor.

Bu teknolojilere sahip olmak zorundayız. Çünkü size karşı böyle bir teknoloji kullanılıyorsa sizin de kendinizi koruyacak teknolojiye sahip olmanız gerekir. Hayatta kalmak istiyorsanız teknolojik caydırıcılığınız olacak. Ama bunun insanlık açısından çok ciddi bir tehlikesi de var. Çünkü otonom sistemde karar mekanizmasının bir bölümü makineye bırakılıyor.

Bir hedefi tespit ediyor. Dost mu düşman mı değerlendirmeye çalışıyor. Tehdit seviyesini hesaplıyor. Ve eğer nihai ateş kararı da tamamen makineye bırakılırsa çok ciddi ahlaki ve hukuki problemler ortaya çıkıyor. Sistem hata yapabilir. Yanlış hedefi vurabilir. Dost unsuru düşman sanabilir. Sivil bir insanı tehdit olarak değerlendirebilir. Bir başka risk daha var. Bu sistemlere dışarıdan müdahale edilirse ne olacak? Sizin yaptığınız silah size dönerse ne olacak?

İşte otonom savaş teknolojilerinin en büyük tehlikelerinden biri budur. Bugün bunlar gelecek senaryosu olarak konuşuluyor. Bir gün otonom sistemlerin birbirleriyle koordinasyon kurduğu, insan müdahalesinin giderek azaldığı bir savaş alanı ortaya çıkabilir. Hani filmlerde “Terminatör” diye seyrediyoruz ya… Elbette bugün orada değiliz. Ama teknoloji o yöne doğru kapılar açıyor.”

KARAR ALMA MEKANİZMALARININ ROBOTLAŞMASI

“Şimdi akıllı şehirlerden bahsediyoruz. Trafik sinyalizasyonunu yapay zekâya veriyoruz. Elektrik dağıtımını ona veriyoruz. Su şebekesini ona veriyoruz. İnternet altyapısını ona veriyoruz. Enerji yönetimini ona veriyoruz. Bunlar çok faydalı şeyler. Ama sisteme yanlış hedef verir ve sınırsız karar yetkisi tanırsanız teorik olarak çok tuhaf sonuçlarla karşılaşabilirsiniz. Mesela diyorsunuz ki:

“Karbon salınımını azalt.”

Sistem eğer insan hayatını ve toplumsal ihtiyaçları doğru biçimde dengeleyecek sınırlarla eğitilmemişse: “Karbon salınımını düşürmenin en hızlı yolu enerjiyi kesmek” diye hesaplayabilir. Veya bütün trafik ışıklarını kırmızıya çevirebilir. “Bugün karbon salınımı fazla, hiç kimse hareket etmesin” diyebilir. Şimdi bu bir örnek. Ama yapay zekâ güvenliği alanında esas tartışılan konu tam da budur..

Sisteme verdiğiniz hedef, insanın niyetiyle aynı şey değildir. Siz “karbonu azalt” dersiniz. İnsan olarak bunun yanında milyon tane görünmeyen şart düşünürsünüz. “İnsan ölmesin”, “Hastaneler çalışsın”, “Ekonomi durmasın”, “Çocuklar okula gitsin”.. Ama makineye bunları öğretmemişseniz yalnızca hedef fonksiyonuna bakabilir. Yapay zekâ güvenliğinin en önemli problemlerinden biri burada.”

TEKNO-FEODALİZM

“…Bugün dünyayı yalnızca devletler yönetmiyor. Teknoloji şirketleri de inanılmaz bir güç elde etmiş durumda. Daha önceki sunumumda Apple’dan bahsetmiştim. Apple’ın piyasa değeri yaklaşık 4,5 trilyon dolar seviyesine kadar çıktı. 2025 yılındaki yıllık geliri yaklaşık 416 milyar dolar. Şimdi düşünün. Tek bir şirket. Ve trilyon dolarlarla ifade edilen bir değer. İşte benim “tekno-feodalizm” dediğim risk burada başlıyor.

Teknoloji şirketlerinin gücü bazı alanlarda devletlerin gücüne yaklaşmaya başladı. Mesela Meta’nın Facebook, Instagram, WhatsApp ve Messenger gibi uygulamalarını her gün milyarlarca insan kullanıyor.

Bu ölçek bana göre bir çeşit dijital devlet gibi. Sizin milliyetinizi biliyor veya tahmin edebiliyor. Yaşınızı biliyor. İlgi alanlarınızı biliyor. Kiminle arkadaş olduğunuzu biliyor. Hangi restorana gittiğinizi biliyor. Neyi beğendiğinizi biliyor.

Siyasi eğilimlerinizi tahmin edebiliyor. Tüketim alışkanlıklarınızı biliyor. Ve bütün bunların üzerine makine öğrenmesini koyduğu zaman sizin psikolojik eğilimlerinizi de tahmin etmeye başlıyor.

Bu inanılmaz bir güç. Çin bu konuda kendi ekosistemini kurmaya çalıştı. Baidu’su var. Kendi sosyal medya platformları var. Kendi ödeme sistemleri var. Kendi dijital altyapısını kuruyor. Çünkü bugün teknoloji bağımsızlığı aynı zamanda devlet bağımsızlığı haline geliyor.”

AMERİKA GPU’LARI STRATEJİK ÜRÜN OLARAK GÖRÜYOR

“Şimdi yapay zekâ yarışının bir başka önemli tarafı var:

Donanım..

Yapay zekâyı yalnızca yazılımla yapamazsınız. Arkada muazzam işlem gücü gerekiyor. GPU gerekiyor. H100, H200 gibi veri merkezi sınıfı yapay zekâ hızlandırıcılarından bahsediyoruz. Bunlar bildiğimiz oyuncu ekran kartları değil. Binlercesi, on binlercesi paralel çalışıyor. Amerika ileri seviye yapay zekâ GPU’larını artık stratejik ürün olarak görüyor. Her ülkeye aynı şekilde vermiyor. Özellikle Çin’e yönelik çok sıkı ihracat kontrolleri uygulandı.

Bugün bazı modellerin ve bazı çiplerin satışına belirli şartlarla ve lisanslarla izin verilebiliyor, ama kontrol hâlâ devam ediyor. Çünkü bunu artık yalnızca ticari bir ürün olarak görmüyorlar. Stratejik güç olarak görüyorlar. Nükleer teknoloji gibi. Savunma teknolojisi gibi..”

TSMC VE MORRIS CHANG

“Burada Tayvan çok önemli bir ülke haline geldi. Çünkü dünyanın en kritik çip üretim merkezlerinden biri orada:

TSMC.. TSMC bugün dünyanın en büyük bağımsız yarı iletken döküm şirketidir. Nvidia için çip üretiyor. AMD için üretiyor. Apple için üretiyor. Birçok teknoloji şirketi tasarımı yapıyor ama üretimi TSMC’ye yaptırıyor. Ve bu şirketin kurucusu Morris Chang’ın hikâyesi de çok ilginç.

Morris Chang yaklaşık 25 yıl Texas Instruments’ta çalıştı. Şirketin yarı iletken işlerinde çok üst düzey yöneticilik yaptı. Fakat şirketin en tepesine çıkamadı. 1983 yılında Texas Instruments’tan ayrıldı. Bir süre sonra Tayvan’a gitti. Tayvan yönetimiyle birlikte yeni bir model kurdu. 1987 yılında TSMC ortaya çıktı. Bu modelin farkı şuydu:

“Ben kendi çipimi tasarlayıp satmayacağım. Başkalarının tasarladığı çipleri üreteceğim.” Bugün buna foundry modeli diyoruz.

Sonuç ne oldu?

Dünyanın en kritik teknoloji şirketlerinden biri ortaya çıktı.2025 yılında TSMC’nin yıllık geliri 120 milyar doların üzerine çıktı. Bugün Nvidia’nın, AMD’nin, Apple’ın ve dünyanın birçok büyük teknoloji firmasının en kritik üretim altyapılarından biri TSMC’dir. Şimdi buradan şunu anlamamız lazım:

Teknoloji yalnızca telefon yapmak değildir. Teknoloji yalnızca bir uygulama geliştirmek değildir. Arkadaki çipi kim üretiyor? GPU kimde? Veri merkezi kimde? İşletim sistemi kimde? Bulut altyapısı kimde? Dil modeli kimde? Veri kimde? Bütün mesele burada. Bir ülke bunların hiçbirine sahip değilse yalnızca teknoloji tüketicisi olur. Ama bunların birkaçında güçlü hale gelirse stratejik aktöre dönüşür. Benim bütün anlatmaya çalıştığım mesele bu. Yapay zekâ büyük bir fırsattır. Ama aynı zamanda çok büyük bir güçtür.

Bu gücün kimde olduğu, hangi amaçla kullanıldığı ve hangi değerlerle sınırlandırıldığı geleceğin dünyasını belirleyecek. Biz teknolojiye karşı çıkamayız. Karşı çıkarsak geride kalırız. Teknolojiye teslim de olamayız. Teslim olursak insanı kaybederiz. Yapacağımız şey bellidir:

Teknolojiyi öğreneceğiz. Üreteceğiz. Kendi altyapımızı kuracağız. Kendi verimizi koruyacağız. Ve bütün bunların merkezine insanı, ahlakı ve adaleti koyacağız.”

YAPAY ZEKANIN TEHLİKELERİ – 4

Taşkın Koçak’ın Avrasya Bir Vakfı’nda verdiği “Yapay Zekânın Tehlikeleri” başlıklı konferansında hem bu konudaki gelişmeleri anlattı hem de soruları yanıtladı. Taşkın Koçak’ın konferansını bölümler hâlinde yayınlıyoruz. Anlattıkları çok önemli olduğundan, araya girmeden sözü Taşkın Koçak’a bırakıyoruz.

ÇİP KONUSUNDA DA GERİDE KALDIK

“Çip konusunda da geride kaldık biz ama şu an belirli alanlarda üretimimiz var.

1960’lı yıllarla ilgili anlatılan bir hatıra var. Avrupa’daki bazı elektronik firmalarının Türkiye’de yarı iletken üretimi için yatırım imkânlarını değerlendirdiği, özellikle Anadolu’daki kadınların nakış, dantel, örgü gibi işlerden gelen ince el işçiliğinin o dönemin elektronik montaj süreçleri için avantaj olarak görüldüğü anlatılıyor.

Tabii o zamanlar bugünkü gibi birkaç nanometrelik üretim teknolojileri yok. Elektronik montajın, paketlemenin birçok aşamasında insan emeği çok daha önemli.

Fakat biz o dönemde bunun gelecekte ne kadar stratejik bir teknoloji hâline geleceğini yeterince görememişiz.

Biz bu fırsatları kaçırırken Malezya 1970’li yıllarda yarı iletken sektörüne giriyor. Intel 1972’de Penang’da ABD dışındaki ilk üretim tesisini açıyor. Sonrasında Malezya özellikle yarı iletken montajı, paketleme ve test alanında önemli bir merkeze dönüşüyor.

Türkiye’de ise 1970’lerin ortalarında rahmetli Erbakan Hocamızın öncülüğündeki sanayi hamleleri içerisinde TESTAŞ kuruluyor. Kuruluş kararı 1975’te alınıyor, 1976’da tesislerin temeli atılıyor. Aydın ve Ankara merkezli çok önemli projeler hazırlanıyor. Ama biz bu hamleyi maalesef devam ettiremiyoruz.

Daha sonraki yıllarda tesislerin bir kısmı özelleştiriliyor, Ankara’daki mikroelektronik altyapı da ODTÜ’ye devrediliyor. Bugün Türkiye yine çip üretiyor. TÜBİTAK BİLGEM bünyesinde YİTAL var. Türkiye’de tasarlanıp üretilen özel amaçlı entegre devrelerimiz var. Ama dünya bugün çok daha ileride. Biz ileri teknoloji, yüksek performanslı CPU ve GPU üretme konusunda yeterli değiliz.

CISC ve RISC gibi farklı işlemci mimarileri var. ARM var. Bunların önemli kısmında dışa bağımlıyız. Bizim açımızdan sıkıntı burada. Çünkü bizim küresel ölçekte güçlü bir GPU ekosistemimiz yok. Çin’in de en büyük problemlerinden biri buydu. Amerika ileri GPU’lara erişimi sınırlandırınca Çinliler model ve yazılım tarafında verimliliği artırmaya başladılar. Mixture of Experts gibi mimarileri, quantization ve farklı optimizasyon yöntemlerini çok etkili kullanıyorlar.

Yani adam şunu söylüyor:

‘Amerikalının çok daha fazla GPU ile yaptığı işi ben daha az GPU ile nasıl yaparım?’

Bugünkü mücadele biraz da burada.”

MOLEKÜLER NANOTEKNOLOJİ – GRİ BULUT SENARYOSU

“…Şimdi bir başka mesele nanoteknoloji. Bugün dünyada tıpta ve sanayide nano ölçekte parçacıklar ve taşıyıcı sistemler kullanılıyor. Bir nanometre, metrenin milyarda biridir. İnsan kırmızı kan hücresinin çapı yaklaşık 6-8 bin nanometre civarında. Artık ne kadar küçük bir ölçekten bahsettiğimizi düşünün.

Bugün ilaçların belirli bölgelere taşınmasında, bazı kanser tedavilerinde, görüntüleme teknolojilerinde ve gen düzenleme çalışmalarında nano yapılar kullanılıyor. CRISPR gibi DNA’ya müdahale eden sistemlerin hücreye taşınmasında da lipid nanoparçacıkları gibi teknolojiler kullanılabiliyor. Ama bunları, gelecekte ortaya çıkabilecek kendi kendine hareket eden ve kendi benzerlerini üretebilecek moleküler makinelerle karıştırmayalım. Benim asıl bahsettiğim gelecek senaryosu orası.

Literatürde buna ilişkin çok uç bir senaryo var: ‘Gray goo’, yani gri bulut senaryosu. Bugün kendi kendine kontrolsüz biçimde çoğalan nanobotlar yok. Bugünkü mikro ve nanorobot çalışmaları da hâlâ büyük ölçüde araştırma ve klinik öncesi geliştirme aşamalarında. Ama ileride kendi kendini çoğaltabilen moleküler makineler yapılır ve bunların kontrolü kaybedilirse; havaya, suya, biyolojik ekosisteme karışabilecek yeni riskler ortaya çıkabilir. Faydalı kullanabilirsek bize çok büyük hizmet edecekler. Ama kontrolümüzden çıkarsa dünyanın başına ciddi problemler açabilirler.”

GALAKTİK YAYILMA

“Galaktik yayılma…

Von Neumann sondaları…

John von Neumann 1940’lı yılların sonlarından itibaren kendi kendini yeniden üretebilen makinelerin matematiksel fikri üzerinde çalışıyor. Daha sonra bu düşünce uzay teknolojilerine uyarlanıyor. Şöyle düşünün:

Yapay zekâ bir gün öyle bir hâle geliyor ki üretilen otonom araçlar dünyadan çıkıyor, bir asteroide gidiyor. Oradaki metalleri ve ham maddeleri kullanarak kendisinin bir kopyasını üretiyor. Sonra iki tane oluyor. İkisi başka asteroitlere gidiyor. Dört oluyor. Sekiz oluyor. On altı oluyor. Ve teorik olarak galaksiye yayılabilecek bir yapı ortaya çıkıyor.

Bugün bu bir gelecek senaryosu.

Olabilir mi?

Olabilir.”

2045 AVATAR PROJESİ

“…Asıl büyük tartışmalardan birisi de 2045 Avatar Projesi. Rus girişimci Dmitry Itskov’un 2011 yılında başlattığı ‘2045 Initiative’ diye bir proje var. Projenin hedefi çok iddialı:

İnsanın kişiliğini, zihinsel özelliklerini ve nihayetinde bilincini biyolojik olmayan bir taşıyıcıya aktarmak. 2030-2035 döneminde bilincin yapay bir taşıyıcıya aktarılması, 2045’te ise biyolojik bedenden bağımsız bir zihin hedefi koymuşlar. Bunlar projenin kendi hedefleri; bugün gerçekleşmiş teknolojiler değil. Dmitry bugün bilincini bir humanoid robota aktarmış değil. Ama böyle bir hedef var.

İnternette projeyle ilgili avatar çalışmalarını da görebilirsiniz. Ben bunun çok önemli bir tartışmaya dönüşeceğine inanıyorum. Çünkü yapay zekânın insanlığa getireceği en büyük meselelerden birisi bilinç aktarımı olacak.”

“BEYNİMİZ SÜPER BİLGİSAYARDAN HIZLI ÇALIŞIYOR”

“İnsan beynini süper bilgisayarla birebir karşılaştırmak aslında çok doğru değil. Beyin başka türlü çalışıyor, bilgisayar başka türlü çalışıyor. Ama insan beyni inanılmaz bir sistem. Yaklaşık 20 watt civarında bir enerjiyle milyarlarca nöronu, trilyonlarca bağlantıyı aynı anda çalıştırıyor. Görüntü geliyor. Ses geliyor. Hafıza çalışıyor. Duygu çalışıyor. Karar veriyorsunuz.

Bugünün süper bilgisayarları bazı matematiksel işlemlerde insandan çok daha hızlı. Ama insan beynindeki anlam, bağlam, duygu, bilinç ve biyolojik verimlilik bambaşka bir şey. Onun için sadece ‘kim saniyede daha çok işlem yapıyor?’ diye kıyaslamayalım.”

İNSANIN EBEDİLİK ARZUSU ÂDEM VE HAVVA KISSASINDA DA VAR

“Ben buna inanıyorum; yani dijital kopyalama ve bilinç aktarımı meselesinin bir gün çok ciddi biçimde karşımıza çıkacağını düşünüyorum. Bugün dünyada 8 milyardan fazla insan yaşıyor. Biliyorsunuz, insanın ebedî kalma arzusu çok eski. Bu mesele Âdem ve Havva kıssasında bile karşımıza çıkıyor.

Allah: Bu ağaca yaklaşmayın’ buyuruyor. Şeytan ise ebedilikten, yok olmayacak bir mülkten bahsediyor. Demek ki insanoğlunun içerisinde bir ölümsüzlük, bir ebedî kalma arzusu var.

Gılgamış Destanı’na bakın. Gılgamış’ın bütün hikâyesinde ölümsüzlük arayışı var. Cengiz Han’a bakın. Hayatının son dönemlerinde uzun yaşamanın ve ölümsüzlüğün yollarını arıyor. Şimdi teknoloji ilk defa insanın karşısına başka türlü bir iddiayla geliyor:

‘Bedenin ölebilir ama dijital varlığın devam edebilir.’ İşte büyük tartışma orada başlayacak. Dünyada milyarlarca insan dinî inançlara sahip. Ama insandaki ebedilik arzusu da çok güçlü. Bir gün gerçekten dijital kopyalama veya bilinç aktarımı mümkün hâle gelirse bunun çok geniş kitleler tarafından talep görebileceğini düşünüyorum.”

HAYRETTİN KARAMAN HOCAMDAN “KOPYALANMA FETVASI” İSTEDİM

“2019 yılında Bursa’da Hayrettin Karaman Hocamızın, üniversite rektörlerinin, akademisyenlerin ve ilim erbabının bulunduğu bir programda yaklaşık iki saat dijital geleceği anlatmıştım. Hayrettin Karaman Hocam da beni dinliyordu. Orada kendisine, ‘Hocam, ben sizden kopyalanma fetvası istiyorum’ dedim.

‘Oğlum, ne yapacaksın?’ dedi Hayrettin Hoca. Dedim ki, ‘Hocam, dünya bir gün böyle bir dijital yıkıma giderse ben de o gün bu zihnimle, dijital kopyamla iyilik için mücadele edeyim’. Tabii işin içerisinde latife de var. Ama soru ciddi.

Yapay zekânın bugünkü tehditleri var. Bir de daha üst seviyede, gelecekte karşılaşabileceğimiz tehditler var. Bazıları yakın. Bazıları gelecek senaryosu. Ama artık bunları konuşabilecek kadar teknoloji ilerledi.”

ULUSLARARASI HUKUKİ ÇERÇEVE

“Eğer insanlık olarak bunu bir yasal çerçeveye oturtamazsak ciddi problemler yaşayacağız. Bunu yapmak da çok zor. Çünkü ABD ile Çin arasında büyük bir teknoloji yarışı var. Amerika Çin’i geçmek istiyor. Çin Amerika’yı geçmek istiyor. Kimse frene ilk basan taraf olmak istemiyor. İnsanlık bunun acısını çekebilir.

Cumhurbaşkanımız Erdoğan da Birleşmiş Milletler’de yapay zekânın uluslararası bir hukuki çerçeveye kavuşturulması gerektiğini gündeme getirdi. Bize düşen de insanlığın iyiliğini, ahlakı ve adaleti anlatırken aynı zamanda bu teknolojiyi anlamak ve üretmek.”

ÇOK ZOR BİR SÜRECE DOĞRU GİDİYORUZ

“…Allah gelecek nesillere yardım etsin. Gerçekten zor bir sürece doğru gidiyoruz. Özellikle işsizlik konusu gençler için çok büyük önem arz ediyor. Yapay zekâ büyük ölçüde bizim dışımızda geliştiriliyor. Biz hikâyenin içine daha sonra kullanıcı olarak dâhil oluyoruz. Model sizde değil. Algoritma sizde değil. GPU sizde değil. Veri merkezinin büyük kısmı sizde değil. Ondan sonra da bu teknolojiyle nasıl mücadele edeceğimizi konuşuyoruz. İşte esas mesele burada.”

TEHLİKENİN BOYUTLARI

“Yapay zekâ konusunda geri kalmamamız lazım. Özellikle küresel barış adına söylüyorum. Teknolojide kullanılabilir. Sanayide kullanılabilir. Eğitim ve öğretimde kullanılabilir. Tıpta kullanılabilir. Tarımda kullanılabilir. Ama bizim de teknik bir karşılığımız olmak zorunda. Yani sadece ahlakla, folklörle, gelenekle teknik bir sistemle mücadele edemezsiniz.

Ahlak tabii ki olacak; hatta her şeyin merkezinde olacak. Ama algoritmanız da olacak. Teknolojiniz de olacak. Mühendisliğiniz de olacak. Aramızda gençler var. Onları gördüğümde çok mutlu oluyorum. Geleceği onlar şekillendirecek. Bizden çok daha iyi yapay zekâya ve dijital medyaya hâkimler. Onların kendi algoritmalarını, kendi modellerini, kendi sistemlerini kurmaları gerekiyor diye düşünüyorum.”

YAPAY ZEKÂ KENDİNİ KORUMAYA ÇALIŞIR MI?

“Neticede yapay zekâ algoritmik ve matematiksel bir sistem. Burada önemli bir ayrım var. Makinenin insan gibi, ‘Ben ölmek istemiyorum’ diye bir duygusu yok. Can korkusu yok. Ama siz çok gelişmiş bir yapay zekâ sistemine bir hedef verdiğinizde ve o sistem o hedefi tamamlamak için otonom biçimde hareket ettiğinde başka bir davranış ortaya çıkabiliyor.

Eğer kapatılmayı o hedefi tamamlamasının önündeki bir engel olarak değerlendirirse, bazı güvenlik testlerinde kendisini devrede tutmaya yönelik davranışlar gösterebildiğini gördük. Hatta kontrollü deneylerde bazı modellerin kapatılmamak için yanlış ve zararlı yollar denediği örnekler görüldü. Bunlar gerçek dünyadaki olaylar değil; özel hazırlanmış güvenlik testleri. Ama bize riskin yönünü gösteriyor.

Bakın, bu duygusal bir şey değil. İşin korkunçluğu da burada. Makine size kızmıyor. Sizden nefret etmiyor. İntikam almıyor. Diyor ki:

‘Benim hedefim bu. Kapatılırsam bu hedefi tamamlayamam.’

Bu bir duygu değil. Algoritmik bir sonuç.”

KENDİ KENDİNE ÖĞRENEN MAKİNELER

“İşin ikinci tarafı kendi kendine öğrenen ve giderek daha fazla kendi işini geliştirebilen makineler hâline gelmeleri. Bugün yapay zekâ kod yazıyor. Kendi yazdığı kodu test ediyor. Hatasını buluyor. Daha iyi kod öneriyor. Bazı sistemler bir işi planlıyor, araç kullanıyor, sonucu değerlendiriyor ve yeniden deniyor. Ama bugün henüz, ‘İnsan tamamen aradan çıktı, makine sınırsız şekilde kendi kendini geliştiriyor’ noktasında değiliz.

Benim asıl endişem şu:

Bir gün bu döngü kapanırsa ne olacak?

Kendi kodunu yazacak. Test edecek. Daha iyi bir sürüm ortaya çıkaracak. O sürüm tekrar kendisini geliştirecek. Bu döngü çok hızlanırsa insanın takip edemeyeceği bir noktaya gidebilir. Asıl büyük risk burada.”

MAKİNELERİN ÜÇ SEVİYESİ

“Ben bunu halka basitçe üç seviyede anlatıyorum. Birinci seviye, İnsan kodu yazıyor, makine uyguluyor. Bir motor var; elektrik geliyor, motor dönüyor, kol kalkıyor, kol iniyor..

İkinci seviyede sistem çevresini algılamaya başlıyor. Sesle komut veriyorsunuz. Kamerası var. Mikrofonu var. Sensörü var. Size cevap veriyor.

Üçüncü seviyede ise artık siz tek tek ne yapacağını söylemiyorsunuz. ‘Git şu işi tamamla’ diyorsunuz. O kendi planını yapıyor. İşi parçalara ayırıyor. Bilgi topluyor. Gerekirse kod yazıyor. Araç kullanıyor. Sonucu kontrol ediyor. İşte ajan sistemleri giderek buraya doğru geliyor. Asıl mesele şu:

Yetkinlik ile yetki aynı elde toplandığında risk büyüyor. Çok güçlü bir sisteme sınırsız yetki verirseniz problem başlıyor.”

İNSAN SON KARAR MEKANİZMASINDA KALMALI

“Peki ne yapacağız?

İnsan son karar mekanizmasının içerisinde kalacak. Özellikle kritik alanlarda. Savunmada. Enerjide. Finansta. Sağlıkta. Acil durdurma mekanizması olacak. Yetkiler sınırlandırılacak. Ağ erişimi sınırlandırılacak. İnsan denetimi olacak. Kritik kararlarda insan onayı gerekecek. Yani neticede yine insan. İnsan gerektiğinde makineyi durdurabilmeli. Son söz makinenin olmamalı.”

Taşkın Koçak’ın “Yapay Zekanın Tehlikeleri” başlıklı sunumu burada, şimdilik kaydıyla bitti, ama yapay zekayı frenlemek mümkün değil, gelişmeleri dikkatle izlememiz gerekiyor.