The Ethics of Artificial IntelligenceYapay Zekânın Etiği
Mert and Suna discuss the moral dilemmas of self-driving cars, bias in training data, transparency and who is liable when an AI system makes a mistake.
Speakers: Mert (a computer scientist), Suna (a philosopher)
The Dialogue
Read each Turkish line aloud, then check the English. Hide the translation to test yourself.
- Mert
Otonom bir araç kaza anında bir seçim yapmak zorunda kalırsa kime öncelik vermeli? İçindeki yolcuya mı, yoksa yoldaki bir grup yayaya mı?
If a self-driving car has to make a choice at the moment of a crash, whom should it prioritize? Its passenger, or a group of pedestrians in the road?
- Suna
Bu, yapay zekâ etiğinin en klasik ve en zor sorularından biri; felsefedeki “tramvay problemi”nin bir uyarlaması. Bu kararı programlayan mühendisin değer yargıları, bir anlamda makinenin ahlakını belirliyor.
That's one of the most classic and difficult questions in AI ethics — an adaptation of the 'trolley problem' from philosophy. In a sense, the value judgments of the engineer who programs that decision determine the machine's morality.
- Mert
Daha da endişe verici olan, yapay zekânın eğitildiği verilerdeki önyargıları öğrenip pekiştirmesi. Örneğin bazı işe alım algoritmalarının belirli gruplara karşı ayrımcılık yaptığı ortaya çıktı.
Even more worrying is that AI learns and reinforces the biases in the data it's trained on. For example, it came to light that some hiring algorithms discriminated against certain groups.
- Suna
Evet, bu çok büyük bir risk. Algoritmaların şeffaf ve denetlenebilir olması gerekiyor. Bir yapay zekânın belirli bir kararı neden verdiğini anlayabilmeliyiz; “kara kutu” olarak kalmamalılar.
Yes, that's a huge risk. Algorithms need to be transparent and auditable. We should be able to understand why an AI made a particular decision; they mustn't remain 'black boxes'.
- Mert
Peki bir hata olduğunda sorumluluk kimde? Yazılımı geliştiren şirkette mi, aracı kullanan kişide mi, yoksa onay veren düzenleyici kurumda mı?
But when something goes wrong, who's responsible? The company that developed the software, the person using the car, or the regulator that approved it?
- Suna
Hukuk bu sorulara henüz net bir yanıt veremiyor. Mevcut sorumluluk kuralları, kendi başına karar veren sistemler düşünülerek yazılmamıştı.
The law can't yet give a clear answer to these questions. Existing liability rules weren't written with self-deciding systems in mind.
- Mert
Sonuç olarak yapay zekâ geliştikçe yalnızca teknik değil, felsefi ve ahlaki sorularla da daha fazla yüzleşmek zorunda kalacağız.
Ultimately, the more AI develops, the more we'll have to confront not only technical questions but philosophical and moral ones too.
Key Vocabulary
| Turkish | English |
|---|---|
| otonom araç | self-driving car |
| öncelik vermek | to prioritize |
| değer yargısı | value judgment |
| önyargı | bias, prejudice |
| pekiştirmek | to reinforce |
| ayrımcılık | discrimination |
| şeffaf | transparent |
| denetlenebilir | auditable |
| sorumluluk | responsibility, liability |
| yüzleşmek | to confront, to face |
Grammar & Culture Notes
Grammar
The more …: -DIkçA
Yapay zekâ geliştikçe = 'as AI develops / the more AI develops'. -dıkça/-dikçe expresses a growing correlation: Okudukça öğreniyorsun (The more you read, the more you learn).
Grammar
Passive relative clauses
Yapay zekânın eğitildiği veriler = 'the data that AI is trained on'. A passive verb inside a -dığı relative clause lets Turkish express English 'on which / with which' without a preposition.
Grammar
With … in mind: -(y)ArAk
…düşünülerek yazılmamıştı = 'had not been written with … in mind'. The converb -(y)arak/-(y)erek describes the way an action is done; here it is combined with the passive and the past perfect.
Check Your Understanding
1. Mert'in ilk sorusu hangi felsefi probleme dayanıyor?
Which philosophical problem is Mert's first question based on?
Show answer
Tramvay problemine.
The trolley problem.
2. Suna'ya göre algoritmalar nasıl olmalı?
According to Suna, what should algorithms be like?
Show answer
Şeffaf ve denetlenebilir olmalı.
Transparent and auditable.
3. Hukuk neden net bir yanıt veremiyor?
Why can't the law give a clear answer?
Show answer
Mevcut kurallar, kendi başına karar veren sistemler düşünülerek yazılmamıştı.
Existing rules weren't written with autonomous systems in mind.