<script><img height="1" width="1" style="display:none" src="https://www.facebook.com/tr?id=637275767893626&ev=PageView&noscript=1" />
개발 스토리

AI 서비스 기획 : 미래에서의 초대장 (2)

Jaden
Summer
Jaden PO · Summer PM
2022.11.11

(이 글은 1편에서 이어집니다.)

태풍의 눈을 지나서

Jaden) 프로덕트 기획에 돌입한지 약 2주 만에 프로덕트의 구조가 정해지고, 와이어프레임 작업까지 완료되면서 저희는 괄목할 만한 성과를 이루었었습니다. 개발팀에서는 저와 썸머가 작업하고 있는 기획안과 와이어프레임을 보면서 필요한 기능들을 추출하고 있었어요. 그 과정 속에서 뤼튼의 백엔드 개발자 Bob이 우리가 서비스에 사용하려는 초거대 생성 AI의 윤리적인 리스크에 대해 브리핑을 했었습니다.

저희가 제작 중인 뤼튼의 새 프로덕트 ‘뤼튼’의 핵심은, 사용자가 생각하는 키워드나 문장을 입력하면, 그 의도와 맥락에 비슷한 문장을 자동으로 생성해주는 것 입니다. 여기서의 모순은 ‘비슷함'에 있습니다. 사용자가 의도했거나, 의도하지 않았거나, 사전에 학습된 데이터가 불명확한 기준으로 문장을 생성해주는 것이 문제였어요.

브리핑 당시 점점 심각해지던 Summer의 표정이 아직도 생생합니다. 아마 당시에 저와 같은 생각을 했었겠죠. 이미 프로덕트의 공정률은 기획 단계를 벗어나던 참이었고, 무언가 크게 놓치고 있었다는 생각을요.

초거대 생성 AI와 같은 인공지능이 생성해내는 문장이 옳고 틀린지, 유해하거나 유해하지 않은지, 저와 우리 팀의 기준으로 판단해서 노출의 척도를 정할 수 있다면 가장 좋을 거에요. 하지만 그럴 수 없다는 건 우리 팀 모두가 알고 있었습니다. 차별과 혐오를 수반하는 사회적 문제, 비방과 욕설, 정치, 성희롱 등 큰 범주에서 부터 작은 영역까지 겉잡을 수 없는 리스크들이 그제서야 보이기 시작했어요.

그래서 저와 Summer는 이 프로덕트를 기획하고 디자인하는 사람으로서 시도해볼 수 있는 모든 영역에 도전해보기로 했습니다. 기술적으로 해결해야하는 영역도 반드시 존재하지만, 이 기술을 서비스로 만드는 과정, 특히 UX/UI적인 측면에서 해결할 수 있는 저희만의 방법론을 반드시 찾을 수 있다고 믿기 때문이에요.

그 과정이 결코 쉽지 않고, 오랜 시간 고민해보아도 정답을 찾을 수 없는 문제일 지도 모릅니다. 하지만 인공지능을 다루는 디자이너라면, 특히 뤼튼의 여정에 함께하기로 한 디자이너라면 끊임없이 해결하려 노력해야할 부분이라 생각합니다.

Summer) 프로덕트를 만들면서 우리 회사의 비전이 무엇인지를 계속해서 곱씹어 봤어요. 뤼튼은 <사람들이 생각하는 것, 그리고 그것을 표현하는 것을 돕는다> 는 미션을 지니고 있고, 궁극적으로는 사람들이 생각하고 표현하는 방식 자체를 리디자인하자는 비전을 가지고 있어요. 그렇다면 과연 ‘결과물 생성’ 에만 초점을 맞추는게 맞는가? 에 대한 의문이 계속 들었어요. 그게 우리 프로덕트의 핵심 기능이니, 이것을 매끄럽게 잘 구현하기만 하면 과연 진짜 사람들이 작문하는 방식과 생각하는 방식을 바꾸고 도와줄 수 있을까? 라는 생각이 들었죠.

그렇게 첫번째로는  ‘생성의 과정’ 에 대한 고민을 했습니다. 사람들이 빠르게 작문하는데에 있어서, 도와주는 것과  대신 써주는 것에는 명확한 차이가 있다고 생각했어요.  그래서 Jaden이랑 이에 대해 깊이 대화를 나눴습니다. 글은 결국 사람의 핵심 생각을 다양한 형태로 표현하는 것이기에, 결과물로써의 글이 도출되기 전에 사람들이 그 ‘핵심 생각’을 잘 쓰게끔 다양한 장치를 마련하고자 노력했습니다.  또 우리 프로덕트가 가지는 정체성에 대해서도 계속해서 곱씹어보며 흔들리지 않는 우리의 가치를 정립하려고 노력했어요.

그런데 이렇게 생성 전 단계에 대해서 치열하게 고민하다보니 놓치는 것이 있었습니다. 바로 생성된 결과물에 대한 윤리적인 문제였습니다. Bob의 리스크 브리핑 이후 결과물의 퀄리티에 대한 의심이 들기 시작했어요. 문장력 즉 형태에 있어서는 놀라운 결과를 보이고 있었기에, 그 이면에 담긴 내용에서도 큰 문제가 없을 것이라며 낙천적으로만 생각하고 있었습니다. 그러나 사실이 아닌 것을 말한다든지, 차별이나 혐오표현에 대한 윤리적인 필터링을 하기가 매우 어렵기 때문에 결과물에 대해서는 더 심도있는 고민이 필요했다는 것을 늦게 깨달았던거죠. 윤리에는 명확한 기준점이 없기에, 저희가 임의의 기준점을 만들어 필터링을 할 수도 없으며 그 기준이 또 다른 폭력이 될 수도 있다는 사실에에 섣불리 어떤 방법을 제시하기도 어려웠습니다. 컨텐츠와 서비스를 만드는 디자이너로서 컨텐츠가 가질 파급력과 영향력이 얼마나 큰지 잘 알고 있었기 때문에, 우리 프로덕트를 통해 만들어진 결과물이 어떤 프레임을 형성하게 될 수 있다는 사실을 간과했던 것 같아 무척 괴로웠어요.

이것에 대해서, 지금도 저와 Jaden 뿐만 아니라 팀원들 모두 함께 머리를 맞대고 고민하고 있습니다. 인공지능 엔지니어 Kevin은 사실이 아닌 말에 대해 필터링해주는 팩트체커에 대해 지속적으로 연구하고 있고, 저와 Jaden은 인터페이스적인 차원 뿐 아니라, 심리적인 차원, 인지적 차원등 다양한 영역에서 최대한 열심히 고민을 하는 중이며, 앞으로도 이 고민은 지속될 예정입니다.

누구도 가보지 않은 길을 향해

저희는 현재 뤼튼의 정식 출시를 준비하면서, 지금 단계에서 해볼 수 있는 몇 가지의 방법들을 실험 및 적용해보고 있습니다.

프로덕트 오너와 디자이너라면 당연하게도 사용성에 집중하고, 그 사용성을 바탕으로 회사에 이익을 가져다주는 것이 큰 책무입니다. 그러나 뤼튼이 가진 비전은 단순한 사용성을 넘어, 창작 행위 자체에 큰 패러다임을 제시하는 것이기 때문에, 자연스럽게 그 너머에 보이는 고민들까지 하고 있습니다.

프로덕트가 본격적으로 출시되고 나서, 지금은 보지 못하는 또다른 문제들이 즐비할 거라 생각합니다. 당연하게도 저희는 그 문제를 해결하겠죠. 그 과정들 속에서 뤼튼의 비전에 부합하는 수 많은 고민과 선택들이 있을 것이고, 그 선택들이 어떤 가치를 내포하고 있는지 주기적으로 블로그를 통해 공유하도록 하겠습니다.

Jaden
Jaden PO
뤼튼테크놀로지스에서 Product Owner를 담당하고 있는 제이든입니다.
Summer
Summer PM
뤼튼테크놀로지스에서 프로덕트 디자인 및 매니징을 담당하는 Summer 입니다.

이런 글도 있어요!

title
팀 소식

Generative AI, 창의성의 확장

Generative AI(생성AI)의 등장으로 인간의 창의성을 새롭게 정의하는 기술 혁명이 시작되었습니다. 이제는 상상력이라는 인간 고유의 영역마저도 기계가 대체할 수 있게 되었습니다. 뤼튼은 사람과 AI를 매끄럽게 연결하여 인간의 생각과 의도를 이끌어내고 이를 AI가 구현할 수 있도록 연결하는 것에 집중합니다.

title
개발 스토리

AI 서비스 기획 : 미래에서의 초대장 (1)

뤼튼 팀이 인공지능에 대해 어떻게 생각하는지, 그리고 이를 어떻게 프로덕트에 반영하려고 노력하고 있고 어느 영역에 깊은 고민을 하며 해결하려 하는지에 대한 고민의 흐름을 소개합니다.

별도의 사용법을 배우지 않아도 돼요!
뤼튼과 함께 10배 빠른 글쓰기를
시작할 준비가 되셨나요?

주식회사 뤼튼테크놀로지스 I 대표 이세영

사업자 등록번호 : 202-81-67042 I 통신판매업 신고번호 : 021-서울마포-3504

개인정보처리방침사용자가이드