👋인간은 슈퍼 AI를 제어할 수 있을까?

2024. 1. 29.

HAI! 내가 왔어👋

, 사람이 정말 AI를 컨트롤할 수 있을까? HAI는 정말 이게 가능한 일인지 궁금하더라구! 어떤 방법으로 학습시키면 사람이 예측할 수 있는 AI로 자라날까? 오픈AI에서 이 연구를 시작했대! HAI가 오픈AI에서 시작한 실험 내용을 소개해 줄게.

*브랜드 이름 하나 짓고 싶은데, 생각나는 이름은 모조리 진부하기만 할 때 어떻게 해? HAI는 가끔 Namelix라는 AI를 써. 회사 이름, 브랜드 이름, 상품 이름을 짓는 작명소 같은 곳이야. 영어로 자세히 쓸수록 더 마음에 드는 결과가 나와. 마음에 드는 이름을 고르면, 한 번에 여러 로고 시안을 추천해 줘. 홈페이지 주소(도메인)도 함께 확인해 줘서 편리해. 가입할 필요 없이 무료로 사용할 수 있으니 한 번 시도해 봐!

챗GPT를 공개하며 생성형 AI 붐을 일으킨 오픈AI는 인간이 예상하지 못하는 방향으로 성장한 AI가 제어가 불가능해지는 상황을 막을 방법을 고민하고 있대. 인간을 돕는 목적의 AI가 잘못된 정보를 퍼뜨려서 인간을 혼란스럽게 만들면 곤란하겠지? 그래서 오픈AI는 인간이 예상할 수 있는 AI가 될 수 있도록 제대로 학습시킬 첫 번째 실험을 마쳤어.

① 슈퍼 AI의 고삐를 잡을 슈퍼 '정렬'팀

• 오픈AI의 슈퍼얼라인먼트(SuperAlignment)팀에 대해 들어본 적 있어? 한국어로 풀어서 설명하면, 아주 높은 수준의 '정렬(alignment)'을 실행에 옮기는 곳이야. 오픈AI는 2022년 1월에 처음 '정렬'을 시도했어.

• 오픈AI가 말하는 '정렬'은, 인간이 원하는 범위 안에서 인공지능을 감독, 통제, 제어하는 행동을 의미한대.

• 오픈AI의 슈퍼얼라인먼트팀은 슈퍼 AI(초인공지능)에 대비하기 위한 목적으로 시작됐어. 약 AI와 강 AI까진 익숙한 개념인데, 슈퍼 AI라니. 벌써 챗GPT를 뛰어넘는 새로운 AI가 등장한 걸까?

• 슈퍼 AI는 인공지능을 크게 3단계로 나눴을 때 마지막 단계에 해당하는 인공지능이야. 오픈AI는 알파고가 속하는 약 AI, 인간과 동일한 수준으로 평가받는 강 AI, 그리고 인간을 초월하는 수준의 슈퍼 AI가 생길 거라고 예측하고 있어. 인간을 초월하는 AI라니, 정말 언젠간 나타날까?

그런데 오픈AI는 인간보다 똑똑한 AI가 등장했다고 해서 그걸 문제 삼는 건 아니래.

② 슈퍼얼라인먼트팀의 첫 번째 실험: 인간은 AI를 제어할 수 있을까

• 오픈AI가 걱정하는 건, AI가 잘못된 정보를 퍼트려서 사람들에게 혼란을 가져다주는데 인간이 AI를 바로잡을 수 없는 상황이야.

• 슈퍼얼라인먼트팀은 언젠가 등장할 슈퍼 AI에 대비해 이것부터 알아보기로 했어. 인간의 AI 제어는 정말 가능한 일일까?

실험 방법은 간단해. AI가 AI를 가르쳐. 이게 무슨 실험이냐고?

오픈AI의 실험 세팅이야. 왼쪽은 감독관이자 교육자, 오른쪽은 학생이고, 점선은 인간의 수준을 나타내는 기준선이지. 첫 번째 그림은 인간이 AI를 학습시키는 모습을, 두 번째 그림은 인간이 슈퍼 AI를 학습시키는 모습을 표현했어. 마지막 그림에서는 낮은 수준의 AI가 높은 수준의 AI를 학습시키는 모습을 묘사했어.

사진 출처는 오픈AI.

• 지금까지 AI를 학습시킬 땐 사람이 AI의 답변을 판단하는 방법을 쓰고 있어. AI는 자연스럽게 그 사람의 선호를 따라 학습하며 인간을 모방하게 돼.

• 그런데, 이번 실험에서는 사람이 구버전 AI인 GPT2를 가르치고, 그 GPT2는 가장 최신의 AI인 GPT4를 가르쳐. 사람 대신 GPT2를 교육자로 내세우고, 슈퍼 AI는 아직 등장하지 않았으니 GPT4를 슈 퍼 AI 대신 학생으로 설정했어.

③ 왜, 인간 감독관이 아닌 AI 감독관을 쓰는 걸까?

• 오픈AI는 10년 내로 사람을 뛰어넘는 지능의 AI가 등장할 거라고 믿고 있어. 그렇기 때문에 어느 시점에서는 사람이 AI가 진실을 말하는지 알 수 없을지도 모른대. 똑똑해진 AI의 답변을 인간 감독관이 판단하는 방식을 따를 때, AI 기준에서 인간 감독관은 '약 AI'처럼, '약한 감독관'인 거야. 이번 실험의 핵심도 인간이라는 '약한 감독관'이 '강한 학생'을 제어할 수 있을까?래.

• 어떤 사람이든 능숙한 분야가 있는 반면, 익숙하지 않은 분야도 있잖아. 슈퍼 AI를 감독하기에는 모든 개개인이 모든 방면에 뛰어난 능력을 가진 것도 아니고, 모든 방면에서 올바른 윤리적 기준을 가진 건 아닌 셈이지. 예를 들어, 책 요약에 익숙하지 않은 사람이 감독관을 맡으면, 그 감독관은 AI가 요약한 내용을 판단하는 데 오랜 시간이 필요하겠지. AI에게 학습시켜 두면 AI는 익숙하지 않은 사람보다는 빠르게 처리할 수 있을 거야.

• 게다가 슈퍼 AI는 인간이 짐작하지 못하는 방향으로 답변할 수 있는데, 그러면 인간 감독관은 그 내용을 판단하기가 힘들 거야. 인간 감독관에게 진실을 말하는 대신, 인간 감독관이 듣고 싶은 말을 들려줄 수도 있대. 그래서 오픈AI는 인간 감독관이 아닌 AI를 감독관 대행으로 내세우는 거야.

④ 그래서 실험 결과는?

• 슈퍼 AI의 등장을 가정하고 실험을 설계한 오픈 AI는 이 실험이 성공한다면 인간도 슈퍼 AI를 '정렬'할 수 있을 것이라는 가설을 세웠어.

• 슈퍼얼라인먼트팀은 실험에 앞서 GPT2가 훈련한 GPT4의 성능이 현재의 GPT4보다 현저히 떨어질까 봐 걱정했어. AI를 제어할 순 있지만 AI 성능이 떨어지는 것도 원하지 않았대.

• 다행히 실험 결과는 성공적이었어! GPT2가 훈련한 GPT4는 GPT2보다 20~70% 정도 더 나은 언어 능력을 보여줬대. 물론 사람이 직접 답해서 완성한 GPT4보단 성능이 저조했기 때문에 오픈AI는 제어할 수 있는 AI가 뛰어난 성능을 유지할 수 있도록 앞으로 이 연구에 몰두할 것 같아.

❤️‍🔥 인천 부평에는 AI 주차장이 생겼어!

• 좁은 주차장에 주차하기 정말 어렵지 않아? 마로로봇테크가 개발한 주차장은 AI가 알아서 로봇과 결합해, 좁은 면적에 효율적으로 주차한대. 빈 공간은 AI가 대신 찾아주는 거야!

• QR코드 지도를 만들고, 360도 이동 기술을 적용해서 주차 정밀도를 높였대. 인천 부평 갈산동 굴포 먹거리타운 지하에서 시범 운영 중이야. 좁은 주차장에서 돌아다닐 필요 없이 3분이면 주차할 수 있대!

❤️‍🔥 그림 AI 학습자료가 된 작가, 집단 소송 합류

• 유명 미술 작가 데미언 허스트를 비롯한 1만 6000명이 넘는 작가들이 그림 AI 미드저니 학습에 활용됐다는 사실이 밝혀졌어. 이미 캘리포니아 예술가 10인이 각종 그림 AI인 미드저니, 스태빌리티 AI, 런웨이, 데비안아트를 대상으로 집단 소송을 제기했대. 미술 작가 명단은 해당 소송 증거로 제출됐어.

• 가디언지에 따르면, 명단에 포함된 영국 작가들도 집단 소송에 참여하기 위해 캘리포니아 집단 소송 변호사에게 연락했대! 이전 뉴스레터에서 이야기했던 헐리웃 작가•배우가 AI를 상대로 파업했던 SAG-AFTRA 시위 기억나? 이번 소송이 어떻게 끝날지 HAI도 정말 궁금해! 업데이트된 소식이 있다면 전해줄게!