도덕경 이야기 1: 로봇도 도덕적이어야 합니다. 공상과학 작가 아시모프의 동명 소설을 각색한 영화 '나, 로봇'에는 한 장면이 있다. 2035년 어느 날 아침, 로봇과 인간이 미국 시카고의 번화한 거리를 왕복했습니다. 속달 배달을 하고, 주인이 개를 산책시키는 것을 돕고, 짐꾼으로 일하고, 집으로 달려가 주인을 위한 응급약을 구한다고요? 이것은 터무니없는 일이 아닙니다. 최근 Google의 로봇 자동차 프로젝트가 이러한 환상을 현실로 만들어 줄 수도 있습니다.
올해 5월 미국 네바다주에서는 구글의 지능형 운전 시스템을 탑재한 자동차의 번호판을 발급해 수동 운전이 없는 자동차를 공공도로에서 테스트할 수 있게 됐다. 업계 추정에 따르면 자율주행차는 3~5년 안에 유럽과 미국에서 상용화될 것으로 예상된다.
국제로봇연맹(International Federation of Robotics) 홈페이지가 공개한 자료에 따르면 1961년 이후 전 세계 로봇 총 판매량은 230만대에 이르렀고, 2011년에는 16만대에 달해 최고 판매량을 기록했다. 현재 글로벌 로봇산업은 이미 활발한 발전의 시기에 들어서 있다.
아시모프 법칙의 딜레마
로봇이 점점 더 인간의 삶에 침투하면서 로봇이 제기하는 법적, 윤리적 문제도 발생합니다.
영국 셰필드대학교 인공지능 및 로봇공학 교수 노엘? 예를 들어, 로봇 자동차가 주차장으로 운전하고 있고 근처에서 어린이가 놀고 있다고 Shaji는 말했습니다. 트럭이 운전하며 로봇 자동차의 센서를 방해하는 먼지를 뿌립니다. 로봇카는 어린이의 존재를 감지하지 못해 교통사고를 일으킨다. 그렇다면 기계 제작자, 소프트웨어 엔지니어, 로봇 자체 중 누가 책임을 지는가?
로봇이 더욱 똑똑해지고 널리 사용됨에 따라 로봇은 결국 예측할 수 없는 상황에서 도덕적 판단을 내리는 상황에 직면하게 될까요? 민간인이 있는 곳에서 목표물이 있는 방에 드론을 발사해야 합니까? 지진 구조에 참여하는 로봇은 사람들에게 재난이 발생하더라도 재난에 대한 진실을 말해야 합니까? 로봇 자동차는 다른 사람과 충돌하더라도 보행자와 충돌하지 않도록 방향을 바꿔야 할까요?
1942년 아시모프는 로봇공학의 3가지 법칙을 제안했습니다. 로봇은 인간에게 해를 끼치거나 위험에 처한 인간을 목격하는 동안 가만히 서서는 안 됩니다. 로봇은 인간이 내린 명령에 복종해야 합니다. 질서는 첫 번째 법칙과 모순됩니다. 로봇은 첫 번째 법칙과 두 번째 법칙을 위반하지 않고 자신의 생존을 최대한 보호해야 합니다.
영화 '나, 로봇'에서는 완벽해 보이는 세 가지 법칙이 문제에 부딪히는데, 어린이와 어른이 동시에 교통사고를 당하면 로봇은 어른의 생존율이 더 높다고 계산하고, 아이보다 어른을 구출하는 데 우선 순위를 두기로 결정했습니다. 이 경우 도덕적 판단을 내리도록 로봇을 가르치는 방법이 의제로 제기되었습니다.
인간답게 도덕성을 배워보세요.
로봇이 도덕적 판단을 배우도록 가르치는 방법은 무엇입니까? Colin은 "도덕적 기계: 로봇에게 옳고 그름을 판단하는 방법을 가르치는 방법"의 공동 저자이자 인디애나 대학교 과학철학과 교수입니다. Allen은 이것이 인간이 미덕을 실천하는 방식에서 발견되어야 한다고 말했습니다.
2010년 4월 한 용감한 남성이 갱단과 싸우다 위독한 상태로 사망했지만 지난 2시간 동안 20명이 넘는 보행자가 아무런 도움 없이 지나갔다. 그 남자는 결국 과도한 출혈로 사망했습니다. 도덕에 대한 사람들의 이해는 때때로 그들의 실제 행동과 일치하지 않습니다. 왜 이런 일이 발생합니까?
이와 관련하여 앨런은 현실에서 사람들이 흔히? 본능? 행동으로 인해 제기되는 윤리적 문제를 고려하지 않고 반응합니다. 고대 그리스 철학자 아리스토텔레스는 사람들이 현실에서 도덕적인 행동을 끊임없이 실천하고 결국 습관으로 만들어야 한다고 믿었습니다. 미래에 도덕적 선택에 직면했을 때, 생각하지 않고도 선한 행동을 보일 수 있습니다.
그래서 Allen은 간단한 규칙으로 로봇 자동차를 디자인할 수 있다고 생각했습니다. 위와 같은 상황에 직면했을 때 자동차를 구출하는 방법을 배우고, 몇 가지 윤리를 바탕으로 로봇 자동차에 대해 알아보세요. 구조하다? 행동 분석 및 확인을 통해 점차적으로 도덕 감각을 배양합니다.
그러나 또 다른 더 복잡한 문제가 발생합니다. 인간이 온라인 다운로드, 낙태, 안락사와 같은 문제에 대해 여전히 다른 의견을 갖고 있는 경우 엔지니어는 어떤 도덕 체계가 로봇에 입력되어야 하는지 알 수 없습니다. 동시에 특정 사례에서는 가치 판단을 적용하는 데에도 차이가 있을 수 있습니다. 예를 들어, 진실은 다른 사람에게 해를 끼치지 않는 미덕으로 간주됩니다. 거짓말이 양측 모두에게 상처를 주지 않으면서 우정을 강화할 수 있다면 거짓말은 무엇일까요? 맞아? . 인간 도덕성의 차이에 따라 로봇 도덕성에는 여러 가지 버전이 있을 수 있습니다.
로봇이 인간처럼 도덕성을 배우고 실천하기 시작하면 인간을 능가하고 대체하게 될까요? Allen은 아직은 그것에 대해 걱정하지 않는다고 말했습니다. 지금 해야 할 일은 로봇에게 올바른 도덕적 판단을 내리도록 가르치는 방법이다. 어떤 종류의 도덕적 판단이 옳은지에 대해서는 인간 자신도 때때로 그것을 이해하지 못할 때가 있습니다.
'도덕경' 이야기 2: 1,500유로의 도덕적 수익. 나는 그날 독일로 유학을 가서 등록금을 냈다.
300유로가 넘는 등록비와 보험료를 낸 뒤 돈을 받아주신 선생님이 1,800유로의 영수증을 주셨는데 나는 멍하니 받아들이고 다른 일을 하러 다른 방으로 갔다. 무슨 일이 일어났어요. 그런데 아직 어학당 1,400위안이 남아 있는 것으로 알고 있어요. 그래서 사무실 책상에 앉은 또 다른 중국인 친구에게 등록금을 어디서 내는지 물어봤습니다. 그녀는 내 손에 있는 영수증을 보고 놀랐다. “벌써 제출하지 않았나요?” 나는 요금을 청구한 사람이 실수를 했다는 것을 즉시 깨달았습니다.
물론 나 같은 가난한 학생에게 1,500유로가 어떤 유혹인지는 알지만, 몇 초 만에 나는 돈을 넘겨야 한다는 결정을 내렸다. 뒤돌아서 잘못된 영수증을 가지고 있는 사람을 찾으러 나갔더니 사무실의 선생님이 나와 함께 나왔다. 상황을 명확하게 설명한 뒤 잘못된 영수증을 쓴 사람을 맹렬히 비난한 뒤 내 어깨를 두드리며 "솔직하게 말해달라"고 말했다. ? 내가 웃으면서 말했지? 감사해요? 하지만 내가 생각하는 것은 사실 나는 정직하지도, 그렇게 고상하지도 않다는 것이다. ?
이제 내 생각을 몇 초간 분석해 보겠습니다. 일반적으로 이 문제는 완전히 반대되는 두 가지 결과를 낳게 됩니다.
결국 누가 등록금을 내지 않았는지 밝혀지는 나쁜 결과는 물론이다. 이는 표면적으로는 극히 추악한 일이며 중국 국민들에게 매우 나쁜 영향을 미친다.
좋은 결과는 1,500유로가 내 것이라는 점인데, 이는 내 반년 생활비에 충분한 금액이다.
그러나 더 깊은 의미에서 이 두 가지 결과가 직면한 도덕적 상황은 제가 감당할 수 있는 범위를 넘어서는 것입니다. 전자는 사람들의 눈에 도덕적 부패를 의미하며 중국인의 도덕적 부패를 나타냅니다. 이번 실수의 직접적인 원인은 독일에 있지만 도덕적인 이유는 우리 편이 아니다. 후자는 어떻습니까? 후자는 내가 남은 생애 동안 항상 양심의 가책과 정죄를 받을 것임을 의미합니다. 왜냐하면 이것은 내 마음의 도덕적 한계선을 심각하게 넘어섰고 내 성격에 가장 큰 오점을 남길 것이기 때문입니다. 그 후 많은 사람들이 말했습니다:? 학교는 너무 부유하지만 당신만큼 좋지는 않습니다. ? 그러나 나는 그것이 사실이 아니라는 것을 알고 있습니다. 진실을 자세히 설명할 필요는 없습니다.
나중에 생각해보면 내가 한 일은 완전히 옳았다는 생각이 든다. 나는 이 1,500유로 때문에 편히 살 수가 없습니다. 나는 양심의 조각을 샀다. 이 평온함을 위해 내년에는 뜨거운 태양과 폭우 속에서 일하러 가고 싶습니다. 힘들게 번 돈이 잘 쓰이기 때문입니다.
이 사건은 내가 해외에 나가서 겪게 될 가장 혹독한 도덕적 시험이다. 나의 근거는 그것이 정직과 고귀함보다 훨씬 더 미래에 직면하게 될 모든 최고와 최저에 대해 좋은 출발을 제공한다는 것입니다.
도덕경 이야기 3: 훈련? 도덕? 우 할머니는 은퇴한 노동자로 낮은 연금과 작은 집이 있다. 그녀는 항저우 푸양(Fuyang)의 한 마을에 살고 있습니다. 원촨 지진 이후 그녀는 상당한 금액을 기부했고 그 이후로 통제 불능 상태였습니다. 매일 기부하시나요? 사회에 사랑을 바칩니다. 비록 기부금이 많지는 않지만 하루에 1원밖에 안 되지만, 하루라도 기부하지 않으면 마음이 허전할 것 같다고 그녀는 말했습니다.
얼마 전 뉴스를 봤는데 문구점 남자가 혼자 도둑을 쫓다가 여자에게 금목걸이를 찾아줬다. 카메라 속에서 차주인의 아내는 이렇게 말했다. 남편은 이런 일에 간섭하는 것을 좋아합니다. 그는 10년 동안 가게를 운영해 왔고 이런 일을 수십 번이나 했습니다. ? 이 뉴스에는 흥미로운 내용이 있습니다. 그는 긴 거리에서 도둑을 쫓는 유일한 사람이었습니다.
선과 악, 옳고 그름, 흑백? 이와 같이? 도덕? 인지는 우리에게 어렵지 않습니다. 맞아? 좋은 사람? ,오른쪽? 좋은 것? 우리는 여전히 마음속으로 감동받고 존경받는다고 느낄 것입니다. 그러나 감동은 감동이고 행동은 행동입니다. ? 이동하다? 무엇을 사용해야 합니까? 행동? 그들 사이에는 여전히 긴 간격이 있으며, 어떤 사람들은 평생을 그 간격을 건너지 않고 살아갑니다. 겉으로는? 도덕? 무엇을 사용해야 합니까? 도덕? 완전히 다른 두 가지. 도덕? 단지 아이디어일 뿐인데 그러면 어쩌죠? 도덕? 행동 중? 행동? 정말 힘들다.
홍콩 자원봉사자 수진메이는 도덕성은 합리성에 달려 있는 것이 아니라 무엇에 달려 있다고 믿습니다. 훈련? . 자녀가 배려심을 갖기를 원한다면 자녀가 거리로 나가 다른 사람들을 돕도록 해야 합니다. 그게 당신이 할 수 있는 유일한 방법인가요? 잘 훈련됐나요? .
? 도덕훈련론? 우 할머니처럼 평범한 사람들이 이해할 수 없는 많은 것들을 설명할 수 있나요? 매일 기부하시나요? 자동차 소유자는 어떻습니까? 마음 흐뭇한? . 사람이 선한 일을 하면 계속해서 선한 일을 하고 다시는 남을 업신여기지 않게 되겠습니까? 고통? , 아직 못 보셨나요? 불공평한 일이 있나요? 예.
산둥성 지난(濟南)시에 정(鄭)이라는 노인이 있는데, 1987년부터 지난(濟南)에 살았다. 양자? 집 없는 아이를 낳은 후, 저는 10년 동안 400명 이상의 집 없는 아이들을 도왔습니다. 집에는 최대 13명의 아이들이 빽빽이 들어차 있었습니다. 그가 입양한 아이들 중에는 기술중등학교와 경찰학교에 진학한 사람도 있고, 군대에 입대한 사람도 있었지만, 다시 노숙자가 된 사람은 없었다.
정씨의 행동을 일반인들이 이해하기는 어렵지만? 잘 훈련됐나요? 이 네 단어는 이해할 수 있습니다. 분명히 그는 이런 도움을 습관으로 여기고 그것에서 행복과 만족을 느끼기 때문에 그것을 즐기고 평생 추구할 수 있다고 생각할 것입니다.
? 도덕? 훈련이 필요합니다. 이 시기에 제이슨 루(Jason Lu)라는 중국 유학생이 온라인에서 열띤 토론을 벌였습니다. 맥도날드 앞에서 구걸하는 노파를 만나 감자튀김 두 개를 사서 바닥에 앉아 즐겁게 식사를 했다. 제이슨 루의 사랑은 많은 중국인들에게 감동을 주었지만, 제이슨 루에게는 이것은 매우 평범한 일입니다. 왜냐하면 그는 미국에서 자원 봉사자로 자선 활동에 자주 참여하고 거지들을 위해 음식을 사주기 때문입니다. 이는 단지 약간의 노력에 불과합니다.
제이슨 루? 단순한? , 하지만 많은 사람들에게? 재해? 이제 많은 네티즌들은 제이슨 루에게 그 노부인은 진짜 거지가 아니므로 그녀를 도와서는 안 된다고 말하면서 그녀가 속았다는 사실을 상기시키기까지 했습니다. ? 약한 사람을 돕고 가난한 사람을 돕는다? 아름다운 감정이지만 한 걸음 내딛고 조금이라도 주는 것이 너무 어렵습니다.
도덕적 설교를 너무 많이 받았지만 실천과 경험이 부족하다. 결과적으로 우리는 계속 서있을 것인가? 도덕? 캠프에서 나는 실무자보다는 판사가 되는 것을 더 좋아합니다.
2010년 홍콩으로 훈련하러 갔을 때 구룡통 지하철 입구에서 훈훈한 광경을 목격했다. 5, 6살밖에 안 된 어린 소년이 지하철 출구에 서서 조각? 천식 기금 호출? 그의 팻말은 지나가는 사람들에게 기부를 요청했고, 그의 부모는 메르세데스에 기대어 미소를 지으며 그를 바라보았습니다.