[Data Robot 세미나] AI와 비판적 사고: 아마존 AI 인터뷰 폐지 3

Data Robot에서 주최한 웨비나 후기..  

 

내용 출처는 Data Robot 사 입니다. 어떤 형태로든 재배포가 안된다면 말씀 주세요.

www.linkedin.com/posts/datarobot_how-to-stop-worrying-and-start-tackling-ai-activity-6732293497275117568-mOWM

 

 

 

How to Stop Worrying and Start Tackling AI Bias?; 어떻게 하면 AI bias 에 대한 걱정을 멈추고, 해결을 도모할 수 있을까?

 

 

 

 

---

 

 

⭐️꼭지 4. bias에 관해 우리가 생각해야 할 것

 

1) bias의 발생 자체가 문제인가?

발표자는 bias = malfunctioning 은 아니라고 했다. 즉, 기능 자체에  문제가 없는 상태라는 것. 기계는 인간이 준 데이터로 학습을 충실히 했을 뿐이고, 그걸 토대로 논리적인 알고리즘을 만들어냈을 뿐이다.

 

 

2) 머신러닝의 bias 는, 오히려 "인간들이 갖고 있었으나 인지하지 못했던 진짜 bias-편견" 을 일깨워주는 역할이다.

아마존에서 축적 되어온 데이터들은, 모두 인간들이 내렸던 의사결정이다. 애초에 이 결정들이 남성 편향적이엤기 때문에, 머신러닝 모델도 맥락을 따라 가는 것. 단지 이전에는 case by case로 인간이 결정하고 관리했기 때문에 문제점을 발견할 수 없었으나, 오늘날 데이터를 많이 모아놓으니 기계가 패턴을 습득해 버려서 bias라는 눈에 보이는 형태로 나타나게 된 것. 

 

 

 

3) Black Box 개념에 대해 

 

 

"Black Box 라는 말은 완전히 말도 안되는 개념이다 (Complete mess)"

 

 

 

발표자가 블랙박스 자리에 사람의 뇌를 채워 넣고 던진 말이다. 

 

 

 

 

굉장히 인상깊었다.

 

개인적으로, 머신러닝에 신뢰성이 떨어지는 이유 중 하나가 blackbox 개념이라 생각했다.

결과값이 나오게 된 근거를 기계 스스로도, 알고리즘 개발자도 설명하지 못한다 정도로 이해하면 된다. 즉, 왜 이렇게 결정 내렸어? 하면 몰라요~~ 암튼 그래요~~ 하는 것이다.  이런 사람에게 의사 결정을 맡길수는 없을 것이다.

 

블랙박스에 대한 견해가 일치하는 아래 글을 참고하면 좋겠다.

ncookie.tistory.com/76

 

그러나 ......

 

기계학습만 blackbox 가 있는 것이 아니다. 사람의 뇌 역시 blackbox이다.

사람의 행동에도 다양한 원인이 있고 생각의 프로세스들이 있는데 이는 객관적이지도 않고, 때로는 왜 그런지 설명하기 못하기도 한다(직감..). 그럼에도 불구하고 사람의 결정에는 전적인 신뢰를 보내고.. 머신한테만 뭐라고 한다... 뭔가 아이러니하지 않은가?

 

게다가 머신의 알고리즘은 bias가 발견되면 어떻게 고쳐나갈 수 라도 있다. (bias를 다루는 법에 대해서도 설명했다. 시간이 나면 한번 더 듣고 요약해볼 예정이다)

 

하지만 편견을 가진 사람은? 고치기도 쉽지 않다.

 

 

 

"Biased Algorithms Are Easier to Fix Than Biased People"

 

 

 

항상 실제 상황이랑 연관지어서 이 분야를 공부했기 때문에, "이런 케이스는 못맞추잖아~", "이런 메커니즘이면 이런 건 못걸러내잖아~" 하며 비판적으로만 생각했었다. 

그런데 이 세미나를 들으니 뭔가 근본적인 깨달음이 찾아온 기분이었다....

물론 나의 생각을 구체화시키기 위해서는 더 많은 공부가 필요할 것 같다고 생각하며, 포스팅을 마친다.