AI는 양심이 없다.

AI는 양심이 없다.(읽는 중)

김명주 지음/ 헤이북스

AI는 양심이 없다.

최근 ChatGPT3의 대단한 능력에 감탄한 지 얼마 지나지 않았는데 그 성능을 월등히 능가하는 ChatGPT4가 출시되었다. 이미지를 인식하고 그 차이점을 설명하는 등 어떤 면에서는 사람보다 더 뛰어난 실력을 지녔다.
AI를 통해 새로운 시대에 대한 핑크빛 환상도 있었지만, "AI는 양신이 없다" 책을 읽고 나서는 기술의 장/단점에 대한 파악과 악용되지 않도록(상처받지 않도록?) 대비가 필요하며, 잘못하면 무서운 시대가 올 것 같다.

 

1장 ‘죽음’을 흔드는 AI

책 속에서 나온 죽은 배우자와 대화가 가능하도록 해준다면  '죽음'으로 다시는 못 볼 것이라고 생각했는데 지금의 기술력으로는 어렵지만 빠른 시일 안에 기술을 통해 죽은 이를 만나서 대화를 할 수 시대가 올 것 같다. 21년 방영했던 MBC에도 보여줬던 "너를 만났다" 다큐를 보면 기술의 대단함과 좋은 점이라는 생각도 들지만, 한편으로는 사별했던 배우자를 다시 만난다면 '고마울까?'란 생각이 든다. 과거 "시간이 약이다"란 말처럼 다시 잊기 위한 고통은 어느 정도가 될지, 다시 만나고 싶어서 현실에 더 적용 못하지 않을까란 걱정도 된다. 

 

2020.02 MBC 너를 만났다#1 

2021.01 너를 만났다. #2

 

나의 디지털 기록이 사후에도 남는 것이 좋을까? 지워지는 것이 좋을까? 잊힐 권리의 허용 범위 경계선의 범위가 어디까지 일지 아직 선을 정의하기는 어렵지만 예측도 쉽지 않은 것 같다.

2장 ‘존재’를 흔드는 AI

 

인공지능 챗봇 "이루다"

가상 인간, 가상 인플루언서, 가상 가수 등. 과연 사람을 대체할 수 있나, 조금씩 아바타처럼 나와서 대체되고 있고 "이루다"등의 인공지능 챗봇이 사람처럼 대화를 하고 있다 보니 과연 내랑 이야기하는 상대가 AI인지 사람인지 존재가 혼돈되는 경우가 있다. 사람이 가상 인간을 좋아하도록 이상적인 모습을 보여주는 것이 과연 좋은 일인가? 상상 속의 유니콘 같은 것에 빠져 헤어 나오지 못하는 경우가 발생한다면 이 또한 "메트릭스"영화과 같은 방향 아닐까 싶다. "수단이 목적이 되어서는 안 된다." 말처럼 인간을 도와주기 위한 수단이 목적이 되어버리는 순간이 올 것 같다.

3장 ‘신뢰’를 흔드는 AI

사람의 운전에 비해 자율 주행의 안정성이 높은 것은 인정하지만 자율주행으로 인해 사고가 난 경우 책임은 없다는 판례 등으로 과연 AI(자율주행)를 신뢰할 수 있는가란 의문점에 도달하게 된다. 책임을 지지 않는다는 점에서 자율주행을 믿을 수는 있지만 만에 하나 사고가 발생하여도 인공지능에게 책임을 물을 수 없는 점에서 '신뢰'를 할 수 없다는 모호한 현상이 발생한다. 미래에 자동차가 전부 자율주행 차가 된다면 사람으로 인해 발생되는 돌발 행위(바이러스)가 없다면 안전성은 더 올라가며 신뢰가 해결되지 않을까 싶다.

 

4장 흔들림 너머 AI 바로 보기

이러한 다양한 문제와 사회 현상을 불러오고는 있지만 피할 수는 없으며, 흔들리는 이 발전 과정 속에서 바르게 가기 위한 노력을 해야 한다. 단순 개발사/개발자 등 특정 몇몇의 윤리가 아닌 인공지능을 사용하는 모두가 윤리의식을 가지고 사용해야 하며, 바른 미래로 갈 수 있도록 노력해야 한다.