달력

12

« 2018/12 »

  •  
  •  
  •  
  •  
  •  
  •  
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  •  
  •  
  •  
  •  
  •  

이미지 인식 인공지능을 방해하는 특정 이미지 - 지금은 효과가 없음.


인공지능 이미지 인식 관련해서 서핑을 하다가 우연히 알게된 내용인데요,

바로 이미지 인식을 방해하는, 거의 무력화 시키는 이미지가 있다는 기사였습니다.


인공지능 이미지 인식, 무력화 패치 발견 : http://www.itbiznews.com/news/articleView.html?idxno=8430


2018년 02월 기사인데요, '구글 리서치 그룹(Research at Google)' 에서 지난해 12월27일 '적대적인 스티커(Adversarial Patch)' 라는 논문으로 통해 증명했다고 합니다.


아래 이미지에서 빨간색 원으로 표시된 이미지인데요.


바나나로 인식해야 하지만, 토스터로 인식하는 문제입니다.

그냥 사진만 한장 옆에 있을 뿐인데, 토스터 99%, 바나나 1% 로 인식하는군요.


'화이트박스 앙상블(White box Ensemble)' 기술을 통해 생성됐으며 5개의 이미지 인식 알고리즘(Five ImageNet Models: inceptionv3, resnet50, xception, VGG16, VGG19)을 무력화시켰다고 합니다.


그래서 부랴부랴 돌려보니 (아래 모델은 2018년 06월 ~ 07월쯤 다운받은 엔진입니다) 지금은 효과가 없네요..

무력화 패치는 아예 인식을 못하고, 손까지 인식합니다.


혹시 다른 사진을 분석해봤는데요,


역시 지금은 아무런 효과가 없네요.


6개월 사이에 많은 발전이 있어서 다행입니다만,

이런 방해 이미지 역시 계속 발전할테니 걱정도 됩니다...




Posted by 멋지다마라송


티스토리 툴바