머신 러닝이 급격하게 발전하면서 공공장소에서 사람을 식별하는 기술의 효율성과 정확성을 크게 향상됐습니다.
이제 공항, 길거리, 기차역 등 곳곳에 설치된 CCTV로 인해 우리는 머지 않은 미래에 모든 국민의 일거수 일투족을 감시할 수 있는 사회에 살게될지도 모르는데요.
하지만 이렇게 인공지능 기술이 발달한 사회에서도 해방구를 찾는 노력은 계속되고 있습니다. 벨기에 최고의 명문대학인 루벤 대학교 학생들이 발표한 최근 논문에 따르면, 이런 감시 사회속에서도 '투명인간'이 될 수 있는 방법이 있다고 합니다.
이 학생들은 의도적으로 이미지 인식 시스템을 속이기 위한 기술을 개발했는데, 너무나 간단하게도 종이 한장이면 인공지능을 쉽게 속일 수 있다고 합니다.
이들이 발표한 논문에는 adversarial patch를 생성하는 3가지 접근법이 제시되어 있습니다.
1. class "person"의 분류 확률 최소화
2. 객체 성 점수를 최소화하는 단계
3. 1,2번의 조합
이들은 인기있는 신경망 모델 인 YOLOv2 사물 인식기를 목표로 삼았습니다. 그리고 전신(Full-body)를 포함하고 있는 INRIA Person Dataset을 사용했습니다. 먼저 YOLOv2 기반 사람 검출기를 훈련 한 다음 세 가지 방법으로 만든 패치를 이미지 데이터에 추가하고 결과 이미지를 사전 훈련 된 탐지기에 보냈습니다. 그런 다음 패치의 픽셀을 반복적으로 조정하여 사람 탐지 정확도를 최소화했습니다.
이렇게 만들어진 패치의 테스트 결과는 아래 영상에서 확인할 수 있습니다.
논문이 발표된지 일주일도 안되서 티셔츠를 판매하는 cloakwear.co 사이트가 등장하기도 했는데요. 사람눈에는 보이지만 인공지능을 볼 수 없는 '투명인간' 티셔츠의 등장으로 개발자들은 인공지능 분야에서도 창과 방패의 싸움이란, 새로운 도전에 직면하게 되었습니다!
