Trust Encar

- FSD는 지금 어디쯤 와 있나? -

레벨 5의 시대는 과연 올 수 있을까?

이를 위해선 ‘완성’이란 단어의 정의부터 내려야 할 것 같습니다. 어느 정도의 수준에 다다르면 자율주행이 ‘완성’됐다고 말할 수 있을까요?
많은 사람들이 상상하는 궁극적인 완성은, 영화에 나오는 것처럼 운전석에 사람이 없어도 되는 수준일 겁니다.

운전자동화 수준 분류 상의 "레벨 5" 말이죠.

레벨 5 자율주행차가 길거리를 누빌 수 있으려면, 사람이 없어도 사고가 나지 않을 것이라는 소비자 신뢰는 물론이고, 이를 뒷받침하는 기술적 완성도가 필요할 겁니다.

하지만, ①편에서 말했듯 테슬라가 지향하는 목표는 인간보다 나은 수준의 AI일 뿐입니다. AI가 아무리 발전해도 인간이 운전할 때보다 사고가 "덜" 발생할 뿐, "안" 발생하는 것은 아니라는 겁니다.

단 몇 건이라도 이해하지 못할 원인의 사고가 발생할 경우 테슬라는 이에 대해 책임을 져야할 것이고, 천문학적인 규모의 소송에 휘말릴지도 모르겠죠.
일론 머스크도 이런 리스크를 누구보다 잘 이해하고 있기에, 아마 테슬라가 레벨 5 수준 달성을 공식적으로 선언하는 날은 근시일 내에는 오지 않을 거라는 생각이 듭니다.

때문에 앞으로 10여년 내 현실적인 목표는 레벨 3, 4 정도가 아닐까 합니다.

‘실리콘 컴퓨터’의 지능을 지금의 ‘고기 컴퓨터’와 비슷한 수준까지 끌어 올려 대부분의 주행을 스스로 진행하되, 비상 수단으로 인간 운전자가 운전석에서 대기하며 보조하는 겁니다. 최소한 인간이 운전석에 앉아는 있는다면, AI의 보조 장치로서 원인 모를 교통사고를 예방할 일말의 가능성은 있는 셈이니까요.

테슬라는 지금 어디쯤 와 있을까?

그럼 레벨 3, 4를 향해 가고 있는 테슬라는 지금 어디쯤 와 있을까요? 인간을 모방해서 인간을 대체하려고 하는 만큼, 인간의 인지 발달 단계와 비교해서 가늠해보면 어떨까 합니다.

태어난 지 얼마되지 않은 아기들은 눈에 보이지 않는 물체가 계속 존재한다는 사실을 자각하지 못합니다.

흔히들 “까꿍 놀이”라고도 하죠. 얼굴을 손으로 가렸다가 “까꿍”하면서 다시 보여주면 아기들이 깜짝 놀라는 것도 같은 이유인데요. 손으로 가려도 그 뒤에 얼굴이 계속 존재한다는 걸 자각하지 못하기에, 손을 떼서 갑자기 얼굴이 보이면 놀라게 되는 겁니다.

아기들은 눈에 보이지 않으면 물체가 사라진다고 믿습니다.(사진 출처: WallpaperFlare)

이렇게 물체가 잠시 가려지더라도 계속 존재한다고 인지하는 것을 “대상 영속성(Object Permanence)”이라고 하는데요.

대상 영속성은 인간과 마찬가지로 자율주행 AI에도 필수적인 인지 능력입니다.

만약 지나가던 트럭이 정지 신호를 가렸다고 해서, 정지 신호가 꺼졌다고 인식하면 어떻게 될까요? 혹은 차선이 가려져서, 차선 건너편을 달릴 수 있는 도로로 인식해버리면 어떻게 될까요?
이렇게 주변 차량이나 행인, 표지판 등 주변 사물이 잠시 가려지는 일이 도로에서는 빈번하게 발생합니다. 때문에 최소한 인간처럼 운전하기 위해서는 대상 영속성은 AI도 당연히 인지해야 하는 사항입니다.

그럼 테슬라 FSD는 어떻게 대상 영속성을 인지할 수 있을까요?

AI Day 발표 내용에 따르면, 테슬라 차량은 일정 시간 혹은 거리를 이동할 때마다 파악된 정보를 선입선출식 자료 구조(Queue)에 저장합니다.

테슬라 뉴럴넷의 구조. 카메라로 얻은 정보를 정리하고 관리하기 위해 Feature queue를 운영하고 있습니다 (사진 출처: Tesla)

만약 그 존재가 파악됐던 물체가 잠시 사라졌다면, 저장된 자료 구조를 훑어보면서 해당 물체에 대한 기록이 있는지 찾아봅니다.
자료 구조에 비슷한 내용이 저장돼 있다면, 물체가 가려져 잠시 보이지 않는 상태일 뿐 아직 그 자리에 남아있다고 판단합니다. 저장돼있지 않다면, 물체가 실제로 지나가서 사라졌다고 판단하겠죠.

이런 대상 영속성은, 대략 생후 1년 정도 지나면 대부분의 아기들이 갖추게 된다고 하는데요. 테슬라 FSD는 관련 내용을 발표 했던 지난 2021년 첫번째 AI Day 전후 즈음에야 비로소 대상 영속성을 인지하게 되지 않았을까하고 추측해봅니다.

인간으로 비유하면, 이제 막 주변을 제대로 파악하기 시작하는 유아기 정도에 와 있다고도 볼 수 있는 겁니다.

물론 성급한 추측일 수 있지만, 테슬라 AI도 이제 막 이런 인간에게 기초적인 인지 능력을 하나하나 적용하고 검증해나가는 단계이지 않을까 하는 생각이 듭니다.
그럼 영유아가 완전한 인지 능력을 갖출 때까지 십 수 년이 걸리는 것처럼, AI도 인간 수준으로 발전하는 데 동일한 시간이 걸릴까요?

그렇지는 않을 것이라고 생각합니다. 인지 능력 개발과 학습에 절대적인 시간이 필요한 ‘고기 컴퓨터’와 달리, ‘실리콘 컴퓨터’는 이를 빠른 속도로 단축하려는 시도들이 이어지고 있기 때문입니다.

더 빠른 학습을 위해 기존보다 4배 향상된 성능의 슈퍼 컴퓨터 Dojo가 가동 준비 중에 있습니다. 또 더 정확하고 효과적인 모델 개발을 위해 뛰어난 엔지니어들이 테슬라에 모여들고 있기도 하죠.

이런 노력 덕에 FSD의 인지 능력 향상에도 빠른 진척 속도를 보이는 것 같은데요. 그 결과로 빠르게 늘어나고 있는 유저 베이스가 이를 방증한다고 봅니다.

테크 업계에서는 종종 “첫 1백만 명의 고객을 확보하기까지 얼마나 오랜 시간이 걸렸는가”라는 지표를 통해 한 제품의 보급 속도를 가늠한다고 합니다.

다양한 제품/서비스가 1백만 유저를 획득하기까지 소요된 기간 (사진 출처: Linas Beliunas Linkedin)

넷플릭스는 3.5년, 페이스북은 10개월, 아이폰은 74일이 걸렸다고 하는데요.. 얼마 전 챗지피티는 단 5일 밖에 걸리지 않아 화제가 되기도 했죠.
그럼 테슬라 FSD는 1백만 유저를 확보하는 데 얼마나 걸릴까요?

21년 말 2천 명 수준이었던 유저 수는 22년 9월 말 16만 명으로 확대됩니다. 그리고 22년 12월 말에는 40만 명까지 늘어났다고 하는데요.

앞서 언급한 넷플릭스, 아이폰, 챗지피티 등과 달리 FSD 가격이 무려 15,000달러에 달하는 점을 고려하면, 유저 수와 보급 속도 모두 놀라운 수준이라고 생각합니다.
빠르면 23년, 혹은 24년 경이면 1백만 명이란 마일스톤을 달성할 수 있지 않을까 하는 기대를 하지 않을 수 없는데요.

물론 1백만 명에 도달하는 데 제 생각보다 훨씬 더 오랜 시간이 소요될 수도 있을 겁니다.

FSD의 보급 속도와 완성도 개선 추이를 논리적으로, 기술적으로 예측하는 것이 누구에게도 결코 쉬운 작업이 아니니까요.
다만, 막연하게나마 FSD Beta가 1백만 유저를 확보할 때 쯤이면 운전 자동화 수준이 레벨 3에 가까워졌고, 본격적으로 자율주행 대중화가 시작되고 있을 거라고는 상상해볼 수 있지 않을까요?

어렵지만, 그래도 언젠가는 되지 않을까?

챗지피티를 만든 OpenAI의 CEO 샘 알트만 사진 출처: Wikimedia Commons

챗지피티가 등장하면서 많은 사람들이 AI의 미래를 낙관적으로 바라보기 시작한 것 같습니다.

제 주변에서도 “이제 단순 반복 작업을 하는 사무직은 모두 AI로 대체되는 게 아닐까?”하는 우려 섞인 목소리가 여기저기서 들리는데요.
챗지피티를 보면서, “그럼 레벨 3,4 수준의 자율주행도 곧 성공하지 않을까?”라고 기대하는 분들도 꽤 있을 것 같습니다.
하지만 저는 생각보다도 더 오랜 시간이 걸릴 것이라고 생각합니다. 어쩌면 테슬라봇이 FSD보다 먼저 완성될지도 모르겠다는 생각이 드는데요.

자율주행은 AI가 한번 오류를 범했을 때 사용자가 안는 손실의 크기가 너무나 크기 때문입니다.

어떤 AI가 언제 소비자에 받아들여지고 널리 사용될지는, AI의 “오류 발생 확률” x “오류 발생 시 예상 손실의 크기”에 의해 크게 좌우된다고 생각합니다.

최근 화제가 된 챗지피티의 경우, 이전에 우리가 접했던 AI에 비해 "오류 발생 확률"이 눈에 띄게 낮아지면서 많은 사람들이 주목했죠. 또한 그 용도가 간단한 메일 작성이나 정보 탐색, 코딩 같은 일상 작업이기 때문에, 오류가 발생하더라도 별다른 중대 이슈가 발생하지는 않습니다. 설사 조금 틀린 게 있더라도 인간이 다시 한번 검토한 후 쓰면 되니까요. “오류 발생 시 예상 손실의 크기”도 낮은 겁니다.

하지만, 자율주행 AI의 경우, “오류 발생 확률”을 아무리 낮춘다 하더라도 “오류 발생 시 예상 손실의 크기”가 너무나 큽니다. 운전자는 물론이고 동승자인 가족과 친구들의 목숨이 걸려 있으니까요. 인간이 안을 수 있는 손실의 거의 최대 크기가 아닐까요?

2020년 대만에서 발생한 테슬라 차량의 추돌사고. 오토파일럿이 도로 상에 전복된 트럭을 인지하지 못해 충돌이 발생했습니다 (사진출처: Electrek)

또한 챗지피티가 쓴 이메일처럼, AI가 오류를 범했을 때 인간이 다시 검토한다거나 할 시간이 있는 것도 아닙니다. 여러 대의 차량이 수십, 수백 km/h로 달리는 도로에서는 한순간의 오작동이 바로 사고로 연결되곤 하니까요. 이건 AI가 아무리 발전한다 하더라도 본질적으로 개선하기 어려운 문제입니다.

때문에 많은 시간이 흐르고 기술이 더욱 발전하더라도, AI가 홀로 운전대를 잡는 건 개인이나 정부 입장에서 쉽게 받아들이기 어려울 것이라고 생각합니다.

그럼에도 불구하고 FSD의 완성을 기대하고 기다리는 이유는, 테슬라가 이런 자율주행 AI를 가장 빠르게 상업화하고 있는 기업이기 때문일 겁니다.

챗지피티를 유료 구독으로 사용해야 한다면, 여러분은 한 달에 얼마나 낼 의향이 있으신가요?
제 주변의 어떤 분은 월 5천원, 또 어떤 분은 월 30만원까지 이야기하시는 걸 봤습니다.
실제로 오픈AI에서 출시한 월 2만 4천원(20달러)의 유료 버전에 대해서도 많은 유저들이 긍정적 반응을 보였고요.
그런데 무려 1,800만원 (15,000달러)에 달하는 FSD는, 22년 말 기준 이미 40만 명의 유저가 돈을 주고 사용하고 있다고 합니다.
아직 레벨 5는 커녕 레벨 3, 4도 쉽지 않은 수준이라고 비판받고 있음에도 말이죠.

이렇게 확고한 고객이 있다는 점이 테슬라의 가장 큰 강점 중 하나라고 생각합니다.

완전 자율주행이란 기술이 보급되기 위해선, 레벨 5 인증을 받았느냐, 혹은 정부로부터 주행 허가를 받았느냐보다 더 중요한 게 있습니다.
결국 개개인의 운전자가 AI에 운전대를 믿고 맡길 수 있는가 인데요.
각종 평가 기관에서 안전성을 아무리 꼼꼼하게 검증받고 인정받았다고 해도, 결국 내 목숨과 안전을 AI에 맡기는건 운전자의 선택에 달려 있습니다. 돈을 주고 이용하는 소비자가 불안하고, 믿을 수 없다면 팔리지 않을 겁니다.
테슬라는 이미 내 운전대를 AI에 믿고 맡길 적극적 의향을 가진 40만 명의 고객을 확보했습니다.
이게 많은 사람들이 테슬라 FSD의 완성을 낙관적으로 바라보고, 또 기대하게 되는 이유라고 생각합니다.

참고자료
- 표지 사진 출처: Pixabay
- Tesla AI Day
- Tesla: FSD Beta self-driving test currently has 160,000 customers (Techgoing, 22/09/30)
- '까꿍놀이' 하나에 이렇게 깊은 뜻이? (Babynews, 18/09/18)