İrade çoğu zaman dış etkilerden tamamen bağımsız, içimizde duran saf bir güç gibi anlatılır. Oysa gündelik seçimlerimiz çevre, alışkanlık, bedensel durum, sosyal ilişkiler ve önümüze konan seçeneklerle birlikte oluşur. Telefonun sessizde olması, bir uygulamanın bildirim göndermesi veya bir butonun diğerinden daha görünür tasarlanması kararın tek nedeni değildir; fakat kararın gerçekleştiği ortamı değiştirir.

Teknoloji tarafsız bir araç mı?

“Teknoloji iyi ya da kötü değildir; önemli olan nasıl kullanıldığıdır” sözü kısmen doğrudur. Aynı araç farklı amaçlara hizmet edebilir. Fakat Stanford Encyclopedia of Philosophy’nin teknoloji felsefesi maddesinde özetlenen yaygın görüşe göre teknolojik nesneler bütünüyle değer-nötr kabul edilemez. Bir tasarım belirli işlevler ve hedefler için yapılır; bazı eylemleri kolaylaştırırken diğerlerini zorlaştırır.

Sonsuz kaydırma daha uzun kullanım, varsayılan bildirimler daha sık geri dönüş, tek tıkla satın alma daha az düşünme aralığı yaratır. Bunlar kullanıcıyı mekanik biçimde kontrol etmez. Yine de seçim mimarisini kurar. Dolayısıyla etik soru yalnızca “kullanıcı bunu niçin yaptı?” değil, “tasarım hangi davranışı kolaylaştırdı ve bundan kim yararlandı?” olmalıdır.

İradeye saygı, kullanıcıya yalnızca bir seçenek vermek değil; seçeneği anlayabileceği, reddedebileceği ve geri alabileceği bir alan bırakmaktır.

Özerklik, her şeyi tek başına yapmak değildir

Felsefede “agency” kabaca bir varlığın niyet, neden veya amaç doğrultusunda eylemde bulunabilme kapasitesi etrafında tartışılır. İnsan özerkliği ise dışarıdan hiçbir etki almamakla eşit değildir. Dilimiz, eğitimimiz ve değerlerimiz zaten başkalarıyla kurduğumuz dünyadan gelir. Daha anlamlı ölçüt; kişinin etkileri değerlendirebilmesi, nedenlerini sahiplenebilmesi ve yönünü değiştirebilmesidir.

Bu nedenle iyi bir dijital yardımcı kullanıcının yerine hayat amacı seçmez. Sorular sorar, seçenekleri görünür kılar ve kararı kullanıcıya geri verir. Otomasyonun görevi iradeyi kaldırmak değil, kişinin seçtiği yönde sürtünmeyi azaltmaktır.

Yapay zekâ özne mi, araç mı?

Günlük dilde bir AI sistemine “ajan” denmesi, onun insanla aynı ahlaki statüye sahip olduğu anlamına gelmez. Yazılım mühendisliğinde ajan; veri alan, plan üreten ve eylem çağıran sistem olabilir. Ahlaki özne olmak ise nedenleri anlayabilme, sorumluluk üstlenebilme ve yaptırıma muhatap olma gibi daha ağır ölçütler içerir.

Stanford Encyclopedia of Philosophy’nin AI etiği incelemesi, yapay zekâ tartışmalarını mahremiyet, manipülasyon, opaklık, önyargı, istihdam ve özerklik başlıkları altında ele alır. Bugünkü pratik sonuç açıktır: “AI karar verdi” sözü sorumluluğu buharlaştırmamalı. Sistemi tasarlayanlar, hizmeti kullanan kurum ve nihai kararı uygulayan insanlar kendi rollerini açıklamalıdır.

Dağıtılmış sorumluluk

Bir öneri sistemi zararlı bir sonucu büyüttüğünde tek bir fail bulmak zor olabilir. Veri seçimi, hedef metriği, arayüz, şirket politikası ve kullanıcının davranışı birlikte rol oynar. Sorumluluğun dağılmış olması, kimsenin sorumlu olmadığı anlamına gelmez; her aktörün kontrol edebildiği bölüm için hesap verebilir olması gerekir.

  • Tasarımcı: Varsayılanların ve ikna tekniklerinin davranış üzerindeki etkisini gözetir.
  • Geliştirici: Model sınırlarını, veri akışını ve hata koşullarını görünür kılar.
  • İşletmeci: Başarı metriğini yalnızca etkileşim süresiyle sınırlamaz.
  • Kullanıcı: Kritik kararda çıktıyı sorgular ve kendi bağlamını gözetir.
  • Kurumlar: Hak arama, itiraz ve denetim mekanizmalarını oluşturur.

Disiplin ile baskı arasındaki sınır

Bir alışkanlık uygulaması hatırlatıcı, puan ve zincir kullanabilir. Bunlar kişinin kendi hedefini desteklediğinde yararlı bir dış yapı sağlar. Ancak utandırma, çıkışı gizleme veya kaybı olduğundan büyük gösterme kullanıcının özerkliğini aşındırır. Etik ayrım mekanizmanın kendisinden çok; açıklığı, ölçülülüğü ve kullanıcının kontrolünde olup olmamasıyla ilgilidir.

Niyetsen’in “utandırmayan disiplin” yaklaşımı bu sınırdan doğuyor. Görev kaçtığında sonuç görünür olur, fakat puan sıfırın altına inmez; mazeret yolu ve zincir koruması vardır. Amaç kullanıcıyı sonsuz etkileşimde tutmak değil, kendi seçtiği hayata doğru somut bir adım atmasına yardım etmektir. Bu yaklaşımın nasıl ürüne dönüştüğünü geliştirme günlüğünde paylaşıyoruz.

İradeyi destekleyen tasarım için beş ilke

  1. Açıklık: Sistem neyi neden önerdiğini anlaşılır biçimde söyler.
  2. Geri alınabilirlik: Kullanıcı kararını değiştirebilir, verisini silebilir ve bildirimleri kapatabilir.
  3. Ölçülülük: Hedef için gerekenden fazla veri veya dikkat talep edilmez.
  4. Duraklama: Yüksek etkili kararlarda düşünme ve insan denetimi için alan bırakılır.
  5. Amaç uyumu: Ürünün metriği, kullanıcının kendi seçtiği değerle çatışmamalıdır.

Sonuç: İnsan merkezdeyse teknoloji görünmez olmaz

“İnsan merkezli” teknoloji, insana sıcak sözler söyleyen teknoloji değildir. Gücünü, sınırını ve çıkarını görünür kılan; itiraz ve çıkış hakkı tanıyan teknolojidir. Araçlar bizi şekillendirir, biz de araçları ve onları yöneten kurumları şekillendirebiliriz. İrade bu karşılıklı ilişkide kaybolmaz; onu destekleyecek koşullar bilinçli biçimde kurulmadığında zayıflar.

Kaynaklar

  1. Stanford Encyclopedia of Philosophy, “Agency” (erişim: 11 Temmuz 2026)
  2. Stanford Encyclopedia of Philosophy, “Philosophy of Technology” (erişim: 11 Temmuz 2026)
  3. Stanford Encyclopedia of Philosophy, “Ethics of Artificial Intelligence and Robotics” (erişim: 11 Temmuz 2026)