인공지능기술과 인간의 책임 연구

Abstract

오늘날 인공지능기술은 더 이상 우리의 일상과 동떨어진 낯선 기술이 아니다. 예를 들어 우리에게 친숙한 스마트폰을 통해 접할 수 있는 인공지능비서는 날씨,뉴스, 영상, 일정 등의 정보를 사용자의 취향에 따라 알려줄 뿐만 아니라, 질문에대한 자연스러운 응답으로 사용자와 소통하기도 한다. 그리고 자동차에 탑재된자율주행 시스템은 최적화된 차량환경을 운전자에게 제공하기도 한다. 이처럼 인공지능기술은 우리의 일상 속에서 다양한 모습으로 쓰이고 있다.그러나 인공지능기술이 언제나 일상의 편리함만 가져오지는 않았다. 자율주행자동차 사고가 발생함에 따라 제기된 안전 문제, 인공지능기술을 악용한 개인정보 무단 사용 및 정보 조작 피해 사례, 인공지능기술을 적용한 프로그램이 편향된 데이터로 인해 잘못된 결과를 도출한 사례 등 인공지능기술로 인해 과거에는없었던 새로운 문제가 발생하고 있다. 여기서 우리가 주목해야 할 부분은 이러한문제들이 인공지능 자체의 결함보다 인간의 과오나 그릇된 사용, 부주의로 인해발생한 경우가 많다는 점이다. 따라서 오늘날 사회에서는 인공지능기술을 사용하는 인간에게 그에 걸맞은 책임이 요구되고 있다.이에 필자는 인공지능기술과 관련된 윤리적 쟁점 중에서도 특히 '책임'과 관련된 윤리적 쟁점을 중심으로 그 내용을 살펴보고, 법률적 의미의 책임과 윤리적의미의 책임을 비교했다. 나아가 인공지능기술을 다루는 주체에게 요구되는 행위주체별 책임을 몇 가지로 정리해보았다. 이를 위해 '한스 요나스(Hans Jonas)'를 중심으로 책임이론을 분석하고 그의 관점에서 인공지능기술로 인한 쟁점들을살펴보았다.우리가 한스 요나스의 이론에서 주목해야 할 점은 한스 요나스가 과학기술의발달로 인해 발생하는 문제점의 특징을 분석하고 이에 대응하는 기술관과 책임관을 제시했다는 것이다. 그는 우선 인간의 삶에 비교적 영향을 미치지 않았던 근대 이전의 과학기술의 특징과 삶의 방식에 근본적인 변화를 초래한 근대 이후의과학기술의 특징을 비교하였다. 그리고 근대 이후의 과학기술을 크게 두 가지 특징으로 정리하였다. 첫째, 인간 자체가 기술의 대상이 되었다. 유전학, 생명공학,뇌과학의 발달로 인간의 생리작용, 심리, 행위 등이 과학기술의 연구 대상이 되면서 인간에 대한 인식의 전환이 발생하였다. 둘째, 인간이 기술의 대상이 되면서 현대기술도 윤리학의 대상이 되었다. 인간의 윤리적 문제뿐만 아니라 기술의윤리적 쓰임이나 영향력에도 주목하기 시작한 것이다.이러한 인식의 전환을 통해 한스 요나스는 그에 걸맞은 책임을 요구하였는데,이때 말하는 책임은 법률에서 쓰이는 책임과 성격이 다르다. 법률적 의미로서 책임은 손해배상이나 처벌의 관점으로 어떤 잘못에 대한 원인이나 행위주체, 동기등을 면밀히 따져 그에 따른 인과적 책임을 이야기한다. 그러나 한스 요나스는법률적 의미의 책임을 강조하기보다는 불확실한 미래에 요구되는 책임을 주장하였다. 다시 말해, 한스 요나스의 이론에서 '책임' 개념은 곧 존재 자체에 대한 인간의 책임, 인간으로서 마땅히 해야 하는 일에 대한 책임, 미래세대를 위한 책임이라고 할 수 있다.한편 인공지능기술이 발달하면서 의료, 군사, 제조, 금융 등의 산업분야 및 이와 관련된 행위주체에 따라 인공지능기술을 둘러싼 윤리적 쟁점은 복잡해지고 세분화되고 있다. 특히 인공지능기술의 정보처리 과정이 정교해지면서 사물을 인식하고 문제를 해결하는 일이 인간과 유사해지고 있다. 이러한 인공지능기술의 특징을 한스 요나스의 관점에 비추어 해석하면 다음과 같다. 첫째, 인공지능기술의주요 분야 중에서 인공 신경망의 정보처리과정이 복잡해지고 있다. 인공 신경망은 그것을 구성하는 층위(Layer)가 많아질수록 보다 정확한 결과를 도출한다는특징을 갖고 있다. 이로 인해 인공지능기술의 정보처리과정을 분석하는 것이 어렵게 되었다. 또한 알파고(AlphaGo)처럼 하나의 입력자료가 인공 신경망을 거쳐 어떤 결과로 출력될지 우리로서 예측하기가 힘들어졌다. 둘째, 인공지능기술로 인해 산업구조의 변화, 직업구조의 변화, 법제도의 변화, 생활환경의 변화가나타나고 있다. 기술이 기술을 낳듯이, 이러한 변화에 대응하기 위해서라도 보다효율적인 인공지능기술 개발은 불가피하다. 따라서 인공지능기술 개발은 필연성을 띠게 되었다. 셋째, 인공지능기술을 연구하는 학자들은 인간의 편의와 이익만을 위해 인공지능기술이 활용되기보다는 수질 정화, 환경문제 개선, 생태계 관리에도 인공지능기술이 활용될 수 있어야 한다고 주장한다. 이는 인공지능기술이인간의 삶을 넘어 범지구적 차원으로 활용되어야 한다는 것을 보여준다. 넷째,인공지능기술이 발전하면서 인공지능로봇이 인간의 사고과정과 인간의 모습을점차 닮아가고 있다. 이로 인해 인간의 의식, 존재와 관련된 형이상학적 물음이학계로부터 제기되고 있다.이러한 특징의 인공지능기술을 다루는 주체는 현재로서는 인간이다. 따라서 한스 요나스가 인간의 책임을 강조한 내용을 참고하여 필자는 인공지능기술에 대한인간의 윤리적 책임을 몇 가지로 제시해보았다. 첫째, 인공지능기술 개발자는 기술의 영향력이 사회의 제반 분야로 확대되었음을 인지하고 신중한 태도로 인공지능기술을 개발해야 한다. 이때 개발자는 환경보존, 생태계보호, 사고예방, 안전확보를 목표로 설정해야 한다. 둘째, 입법자를 포함한 정치인은 사회적 약자, 취약계층을 포함한 사회 구성원 모두가 인공지능기술을 쉽게 접하고 사용할 수 있도록 인프라를 구축해야 한다. 그리고 인공지능기술의 발달로 변화하는 사회 모습을 반영하여 법률 및 제도를 재정비해야 한다. 셋째, 사용자는 인공지능기술을오용 또는 악용하지 않도록 절제의 미덕을 갖추어야 한다. 또한 인공지능기술을개발하고 사용하는 것이 적절하게 이루어지고 있는지 비판적으로 살펴보고, 정부와 제조사에 사용자 의견을 제시해야 한다. 넷째, 교육자, 연수기관 등의 교육주체는 소프트웨어 교육뿐만 아니라 윤리적 차원의 인공지능교육을 강화해야 한다.이와 더불어 교육주체는 인공지능기술로 인한 전 지구적 변화 속에서 변하지 않는 도덕적 가치를 탐색하여, 교육받는 주체의 도덕적 정서를 일깨우고 길러줘야한다.

For us today, artificial intelligence technique is no longer anunfamiliar technique that is out of touch with our daily lives. Theartificial intelligence secretary, which can be accessed through asmartphone, not only informs users of information such as weather,news, video and schedule according to their tastes, but alsocommunicates with users in a natural response to questions. Andself-driving systems that are installed in cars also provide driverswith an optimized vehicle environment. Like this, artificialintelligence technique is being used in various forms in our dailylives.However, artificial intelligence has not always brought everydayconvenience. Artificial intelligence technique is causing new problemsthat have not existed in the past, such as safety problems raised byaccidents involving self-driving cars, damage cases caused byunauthorized use of personal information or manipulation ofinformation by exploiting artificial intelligence technique, and casesin which programs applying artificial intelligence technique producedbiased results. What we should note here is that these problems areoften caused by human error, wrong use, or carelessness rather thanby flaws in artificial intelligence itself. Therefore, today's societydemands the right responsibility for humans using artificialintelligence technique.In response, I look at the contents focusing on ethical issuesrelated to artificial intelligence technique, especially those related to"responsibility," and compare the responsibilities of legal and ethicalmeanings. After that, we will summarize several responsibilities foreach actor who deals with artificial intelligence technique. To thatend, he will analyze the theory of responsibility, focusing on HansJonas, and examine the issues caused by artificial intelligencetechnique from his point of view.What we should pay attention to Hans Jonas is that Hans Jonasanalyzed the characteristics of the problems caused by thedevelopment of science and technique and presented the technicaland responsible officers to respond to them. He first compared thecharacteristics of pre-modern science and technique, which hadrelatively no effect on human life, with the characteristics ofpost-modern science and technique that led to fundamental changesin the way of life. And the post-modern science and technique weresummarized into two main characteristics. First, humans themselveshave become targets of technique. With the development of genetics,biotechnique, and brain science, human physiology, psychology, andbehavior have become subjects of science and technique, a change ofperception of human beings has occurred. Second, modern techniquehas become the subject of ethics as humans have become the subjectof technique. People have begun to pay attention not only to humanethical problems but also to the ethical use and influence oftechnique.Through this change of perception, Hans Jonas demanded acorresponding responsibility, which differs from the responsibilitiesused in the law. In the legal sense, responsibility refers to causativeresponsibility resulting from the point of view of damages orpunishment by carefully examining the causes, actors andmotivations for any wrongdoing. But Hans Jonas insisted on theresponsibilities required for an uncertain future rather thanemphasizing the responsibilities of legal meaning. In other words,Hans Jonas's responsibilities are human responsibility for theexistence itself, responsibility for what human beings deserve to do,and responsibility for future generations.Meanwhile, ethical issues related to artificial intelligence techniqueare becoming complicated and subdivided by the development ofartificial intelligence technique in the industrial sectors of medical,military, manufacturing and finance, and related actors. Inparticular, as the process of processing information in artificialintelligence technique has become more sophisticated, recognizingthings and solving problems are becoming similar to humans. Thisartificial intelligence technique is interpreted in light of Hans Jonas'point of view as follows.First, among the major areas of artificial intelligence technique,the information processing process of artificial neural networks isbecoming more complicated. Artificial neural networks have thecharacteristic that the more layers that make up them, the moreaccurate results they produce. This has made it difficult to analyzethe information processing process of artificial intelligence technique.It has also become difficult for us to predict how one input, likeAlphaGo, will be output through an artificial neural network.Second, changes in industrial structure, changes in job structure,changes in legal system, changes in living environment are emergingdue to artificial intelligence technique. Just as technique producestechnique, it is inevitable to develop more efficient artificialintelligence technique to cope with these changes. Therefore, thedevelopment of artificial intelligence technique has becomeinevitable.Third, scholars studying artificial intelligence technique argue thatartificial intelligence technique should be used to clean up waterquality, improve environmental problems and manage ecosystems,rather than just for human convenience and benefit. This shows thatartificial intelligence technique should go beyond human life and beused on a global level.Fourth, with the development of artificial intelligence technique,artificial intelligence robots are gradually becoming more and moresimilar to the human thought process. This raises metaphysicalquestions related to human consciousness, existence, from academiaThe subject that deals with these features of artificial intelligencetechnique is human at the moment. Therefore, in reference to HansJonas' emphasis on human responsibility, I have presented severalethical responsibilities for artificial intelligence technique.First, the developer of artificial intelligence technique shoulddevelop artificial intelligence technique with a cautious attitude,recognizing that the influence of technique has expanded to varioussectors of society. At this time, developers should set goals topreserve the environment, protect the ecosystem, prevent accidentsand secure safety.Second, politicians, including legislators, should buildinfrastructure so that all members of society, including the sociallydisadvantaged and the vulnerable, can easily access and useartificial intelligence technique. Also, laws and systems should bereorganized to reflect the changing social landscape of artificialintelligence technique.Third, users should have the virtue of moderation to preventmisuse or abuse of artificial intelligence technique. It should alsocritically examine whether the development and use of artificialintelligence technique is being done properly, and present useropinions to governments and manufacturers.Fourth, educational subjects such as educators and traininginstitutions should strengthen artificial intelligence education on anethical level as well as software education. And the subject ofeducation should explore the unchangeable moral values amid theglobal changes caused by artificial intelligence technique, awakeningand cultivating the moral sentiments of the subject being educated.Keyword: Hans Jonas, Responsibility, Robot, Artificial Intelligence,Robot Ethics, Artificial Intelligence Ethics