이 책은 기본적으로 인공지능의 안전성에 대해 최소한의 지식을 갖고 있을 필요가 있는 국방, 자율주행, 의료, 금융, 법집행 분야의 관계자들을 염두하고 쓰여진 것이다. 내가 사용하는 인공지능이 인공지능 고유의 취약성을 노리는 악의적 공격에 견디어 낼 수 있는지, 과연 인공지능의 판단을 어디까지 믿고 의지할 수 있을지, 개발의도와는 다르게 전혀 생각지도 못했던 방향으로 사회에, 지구환경에 악영향을 미치는 것은 아닌지 본격화되는 인공지능 시대에 모두가 관심을 기울여야할 주제이다. 가급적 피상적인 개념의 설명이나 관련 기술 동향의 나열에 그치지 않고 최소한의 기술적 이해를 원하는 독자들을 대상으로 가능한 한 수식의 사용을 자제하면서도 최대한 기본적인 개념을 이해할 수 있도록 노력하였다. 그런 이유로 남겨진 몇몇 수식은 작은 열정만으로도 충분히 이해하고 넘어갈 수 있도록 친절하게 설명을 하고자 했으나 수식에 노이로제가 있는 독자라면 부담없이 건너뛰어도 큰 무리는 없을 것이다.
이미 우리 삶에 깊숙이 들어온 AI의 기본 원리를 넘어서 AI 안전성이 앞으로 우리의 삶에 어떤 영향을 끼치게 될 지 궁금하다면 누구나 이 책의 독자가 될 수 있을 것이다.
01 인공지능의 안전성이란 무엇이고 왜 중요한가
02 AI 안전성을 논하기 위한 간단한 인공지능 개념 정리
03 인공지능에는 취약성이 존재한다: 인공지능의 견고성
04 결과에 대한 이유를 알고 싶다: 설명가능한 인공지능
05 설계의도와는 다른 일들이 발생한다: 의도에 부합하는 인공지능
06 인공지능이 지구환경을 위협한다: 인공지능의 환경친화성
07 안전한 AI의 미래