はじめに

開発者の皆さんは普段、どのようにシステムを作ろうとしますか？インターネット上にある幅広い情報に頼りながら作業を進める人もいれば、友人とともに疑問を解消しながら成果物の完成を目指す人もいるかと思います。

私は、システム開発を成功させるためには、チームや社会の状況を理解するための知識とそれを制御するための意志が必要であると考えています。なぜなら、知識がなければ問題の対処法を考えることはおろか、問題を認識することさえできず、環境を制御できるほどの意志がなければ実際の行動が生まれないからです。

しかし、ここで一つ疑問が生じます。私たちはどのような知識を身につけ、どのような意志を育まねばならないのでしょうか？開発者が対処しなければならない問題は複数の分野に及びます。それがシステム内部で発生すれば情報工学の経験を記憶から引っ張り出す必要がありますし、逆にシステム外部で、つまり市場で発生すれば、経済学や商学の概念を学ぶ必要が生じます。

このように、開発者が対処しなければならない問題は膨大であり、それが属する分野の多様性ゆえに難易度も異なります。しかし、問題をどのように解釈するかは私たちが決めることができます。ここで述べている「物事の捉え方のルール」はいわば「道徳」の1つであり、道徳の在り方を考える学問が倫理学です。

「倫理学を知ることによって、開発者としての行動基準が磨き上げられるのではないか？」と私は考えています。

開発者のジレンマは倫理学の主題

私たち開発者は、普段から多くのジレンマに悩まされています。

例えば、プライバシーと利便性のトレードオフがあります。ユーザーの利便性を高めるために、個人情報を収集し、利用することはプライバシーを侵害する可能性があります。利便性のために収集してもよいとみなされる個人情報とは、どのようなものなのでしょうか？

別の例を挙げると、近年では、AIを活用したシステムが人々の注目を集めていますが、AIモデルの学習データにはバイアスが含まれています。このバイアスによって、AIモデルが不適切な出力を生成する可能性があります。開発者は、バイアスを軽減するための対策を講じる必要がありますが、バイアスを完全に排除することは困難です。

倫理学ではまさにこのような問題が議論されます。倫理学には、帰結主義、義務論、徳倫理学という3つの理論があります。それぞれの理論の概要を順に把握していきましょう。

帰結主義では、行為の正当性はその結果に基づいて判断されます。そのため、帰結主義の観点では、より良い結果が得られる（と思われる）方法を採用します。例えば、ユーザーが自らのプライバシーを犠牲にしてでもより高い利便性を求めている状況では、利便性をできる限り高めるために多くの個人情報を収集することになります。

一方で、義務論では、普遍的な道徳法則に従って行動することが求められます。そのため、義務論の観点では、自分が絶対的に正しいと考える方法を採用します。例えば、あなたが開発者として、ユーザーの利便性を向上させることよりも、ユーザーのプライバシーを保護することの方がより普遍的な善であると考えるならば、プライバシーを何よりも優先すべきです。

これらの思想とは対照的に、バランスを重視したアプローチが徳倫理学です。徳倫理学では、徳を身につけ、理性的に行動することが善であると考えます。そのため、徳倫理学の観点では、日頃の活動によって自分の性格を見直し、その結果として考え出された方法を採用します。例えば、ユーザーと話すことで、プライバシーにおける善と利便性における善を考え、それらの善を包含する徳を方法の1つとします。