웨이모 공동 CEO, 로봇·자동차용 AI 개발사에 강력한 경고 발언: '되돌리기와 재시도는 없다'
원문: Waymo's Co-CEO Just Issued a Stark Warning to Every AI Company Building Robots and Cars: 'There's Simply Not An Undo…'
요약
알파벳의 자율주행 부문 웨이모 공동 CEO 드미트리 돌고프가 자율주행차 및 로봇과 같은 물리적 AI 개발에 있어 '실수를 할 수 없는' 중대한 이유를 강조함. 디지털 제품과 달리 AI가 작동하는 기계는 안전을 최우선으로 설계해야 하며, 실수 시 돌이킬 수 없는 피해가 발생할 수 있음을 경고함.
핵심 포인트
- • 웨이모 공동 CEO 드미트리 돌고프가 자율주행차 및 로봇 AI 개발에 실수할 여유가 없다고 경고함
- • 기술 업계의 '빨리 움직이고 파괴하라' 문화는 물리적 AI 환경에서는 부적절하며, '빠르고 안전하게 출시'해야 한다고 주장함
- • 웨이모는 지금까지 2억2천만 마일 이상 자율주행 주행 기록과 매주 50만 건 이상의 완전자율주행 택시 서비스를 제공함
- • 5월과 그 이후 웨이모는 소프트웨어 문제로 인해 약 7,700대의 로보택시를 두 차례 리콜했으며, 안전 관련 연방 조사도 받음
- • NHTSA는 자율주행차의 긴급 상황 대응 실패 문제를 지적하며 개선을 촉구함
- • 웨이모의 사례는 물리적 AI기기는 상용화 이후 지속적이고 엄격한 안전 테스트와 개선이 필수임을 보여줌
주요 내용
물리적 AI 개발의 안전성 경고
- • 웨이모 공동 CEO 드미트리 돌고프가 기술 업계의 ‘실수하며 배우는 문화’를 자율주행차 등 물리적 AI 개발에 적용해서는 안 된다고 경고함
- • 돌고프가 제시한 새로운 원칙은 ‘빨리 움직이고 안전하게 출시하라’임
- • 자율주행 시스템의 안전성을 초기 모델부터 설계, 훈련, 시스템 아키텍처에 통합해야 하며 소프트웨어 배포 후 보호 장치를 추가하는 것은 불충분하다고 지적함
- • 기존 디지털 AI 제품(예: 챗봇)과 달리, 차량 등 물리적 AI 오류는 ‘인명 피해’로 직결되어 ‘되돌리기’ 버튼이 없다고 강조함
웨이모의 안전 기록과 상용화 현황
- • 웨이모가 2억2천만 마일의 자율주행 주행 기록과 매주 50만 건의 완전자율주행 택시 운행 실적을 보유함
- • 독립 연구 결과 5,670만 마일의 자율주행 주행 시 인간 운전자 대비 사고 및 에어백 전개율이 통계적으로 낮았다는 점을 공개함
안전 문제와 리콜 사례
- • 웨이모가 5월 소프트웨어 문제로 유사 당시 약 3,800대의 차량을 리콜함
- • 이후 또 다른 소프트웨어 문제로 약 3,900대를 추가 리콜하고, 폐쇄된 고속도로 공사 구역 진입 사고 발생 후 서비스 일시 중단 및 업데이트를 진행함
- • NHTSA가 운행 중 긴급 상황에서의 자율주행차 불안전한 행동을 경고, 많은 차량이 구급차 및 소방차를 막거나 신호와 교통콘에 잘못 대응했다고 발표함
연방 당국과 안전 개선 요구
- • NHTSA 관리자 조나단 모리슨이 자율주행차가 긴급 대응 요원과 안전하게 상호 작용하지 못하면 공공에 위험이 된다고 경고함
- • 모리슨은 자율주행 기업에 관련 문제 우선 해결과 지속적인 안전 개선을 촉구함
물리적 AI의 지속적인 안전성 관리 필요성
- • 돌고프 CEO의 경고는 웨이모의 안전 연구 성과와 잇따른 리콜 사례를 통해 실사용 환경에서 긴밀한 테스트와 개선이 필수임을 시사함
- • 상용화 이후에도 자율주행차를 포함한 물리적 AI 기기는 안전성을 높이는 작업을 끊임없이 이어가야 함