1. 테슬라 AI 및 오토파일럿 리더 Tim Zaman에 의하면, Tesla AI 10k H100 클러스터가 월요일에 출시될 예정입니다.
Real-world video training 으로 세계에서 가장 큰 교육 datasets를 보유할 것이라고 합니다.
10,000개의 NVIDIA H100 으로 구성되어 있습니다. 개당 비용은 약 30,000달러 정도입니다.
https://twitter.com/tim_zaman/status/1695488119729238147?s=20
2. 어제 일론이 FSD v12 라이브 스트림시 말했던 부분을 정리한 Xer가 있어 그대로 번역해 올립니다.
(길지만 쭉 읽어보시는 것도 의미 있을듯 합니다.)
by Treb@treb5475 :
우리는 이제 라이브입니다. 그래서 여기 있습니다. 우리는 방금 Tesla 본사를 떠날 예정이며 스탠포드에 무작위로 핀을 떨어뜨렸습니다. 어떻게 되는지 살펴보겠습니다. 그럼 가자.
좋아요, 여기 우리는 일종의 임의의 지점에 있습니다. 꽤 흔들릴 겁니다. 차 자체에서는 정말 부드러운 항해입니다. 그리고 여기서 우리는 몇 가지 구성을 접하게 됩니다. 차는 건설 현장 주변을 운전하고 있습니다. 이전에는 이런 건설을 본 적이 없습니다. 본사 근처에 있지만 이번 공사는 비교적 최근에 지어진 건물입니다.
이제 오른쪽 차선으로 이동해 보겠습니다. 오른쪽 차선으로 넘어가고 있습니다. 좋습니다. 목적지가 보입니다.
신호등이 빨간불이고 현재 교통량이 많아 조금 지루합니다. 여기 사람들을 지루하게 하려고 하는데 우리는 빨간 신호등에 앉아 있을 뿐입니다. 이런 영상은 편집해서 빠르게 올리면 더 재미있을 것 같아요.
차는 신호등이 바뀔 때까지 참을성 있게 기다리고 있습니다. 그것은 좋은 왼쪽을 만들었습니다. 실시간 스트리밍으로 확인하기는 어렵지만 차량이 매우 부드럽게 주행하고 있습니다. 완전히 AI와 카메라는 우리의 두뇌가 작동하는 것처럼 신경망과 눈입니다. 과속방지턱으로 인해 속도가 느려졌는데, 정말 멋지네요. 또 다른 과속방지턱을 위해 속도를 줄여야 해요. 우리는 프로그래밍하지 않았습니다. 과속 방지턱에 대비해 속도를 줄이라는 코드 줄이 없습니다. 이는 전적으로 비디오 교육을 기반으로 수행됩니다.
그리고 자전거 타는 사람도 있어요. 다시 말하지만, 자전거 운전자에게 허가를 제공하라는 코드 줄은 없습니다. 그것은 단지 사람들이 하는 일을 하는 것입니다 do. 읽는 법을 배우지 않고도 표지판을 읽을 수 있습니다. 다시 한번 말하지만, 정지 신호에 정지하거나 다른 차를 기다리라는 코드 줄이 없습니다. "대기 x 초" 같은 것은 없습니다. 이건 다 그물이야, 자기야, 그물밖에 없어.
그리고 우리는 그 목적지에 도달할 것입니다. 지금 당장 핀을 바꿔서 다른 곳에 놓아두겠습니다. 어쩌면 우리는 Zuckerberg를 만나게 될 것이고, 그에게 싸움을 걸 수도 있을 것입니다. 재미있을 것 같아요. 그는 뒷마당으로 여행하지 않습니다.
그래서 우리는 로터리에 있습니다. 로터리는 분명히 꽤 복잡했습니다. 두 대의 차가 갈 때까지 기다렸다가 방향을 바꾸었습니다. 다시 한번 말씀드리지만, 우리는 로터리 개념을 프로그래밍한 적이 없습니다. 우리는 방금 로터리에 관한 많은 비디오를 보여주었습니다. 이 작업을 수행하려면 확실히 많은 훈련 데이터와 많은 비디오 훈련 데이터가 필요합니다. 그리고 수십억 달러의 교육 하드웨어가 필요합니다. 신경망 훈련 하드웨어를 실행하는 방법을 알아야 합니다. 쉽지 않습니다.
놀라운 점은 경험적 방법이 없다는 것입니다. 코드가 없습니다. 스쿠터를 탄 남자가 있습니다. 스쿠터가 무엇인지 모릅니다. 페달이 무엇인지 모릅니다. 방금 비디오가 많이 제공되었습니다. 그리고 이 모든 작업은 약 100와트의 추론 컴퓨팅을 갖춘 하드웨어 3에서 수행됩니다. 대규모 데이터 센터와는 다릅니다. 오프라인이라면 아무런 차이가 없을 것입니다. 이것은 지역적입니다. 모든 추론은 로컬에서 이루어집니다. 인터넷 연결이 필요하지 않습니다. 그리고 휴대폰 연결이 끊어지면 안전하게 운전할 수 없기 때문에 이는 분명히 필요한 일입니다. 인터넷이 연결되지 않은 곳에 있을 수도 있습니다. 이전에는 도로를 본 적이 없습니다. 그것은 중요하지 않습니다.
우리는 전체 프레임 속도로 실행 중입니다. 초당 36프레임으로 8대의 카메라가 필요합니다. 순수 AI 버전은 일반 소프트웨어와 AI가 혼합된 버전보다 더 좋고 빠르게 실행됩니다. 실제로 카메라가 36fps만 지원한다는 점을 제외하면 초당 36프레임보다 빠르게 실행됩니다. 우리의 계산에 따르면 초당 50프레임으로 실행될 수 있습니다. 도로는 기본적으로 초당 24프레임 정도로 설계되었습니다.
이제 막 목적지에 도착했어요. 여기서 새로운 목적지를 선택하겠습니다. 뭔가 의외의 장소가 있군요. 나를 잡고 싶다면 지금이 기회다. 팔로알토에서는 암살자 수가 적습니다.
그래서 우리는 Palo Alto 어딘가에 무작위로 핀을 떨어뜨렸습니다. 우리는 전 세계에 FSD 12 테스트 드라이버를 보유하고 있습니다. 뉴질랜드, 태국, 노르웨이, 일본 같은 곳에 사람들이 있어요. 인간이 한 번도 가본 적 없는 나라로 여행을 갈 수도 있고, 차를 빌려 운전을 할 수도 있는 것처럼요. 현지인만큼 좋지는 않을 수도 있지만, 여전히 외국에서 자동차를 렌트하여 운전할 수 있습니다.
저쪽에 학생이 몇 명 있어요. 그들 중 한 명이 잠시 길에 비틀거리며 들어섰고, 차가 그들 주위를 돌았습니다.
캘리포니아의 아름다운 스탠포드 캠퍼스에서 즐거운 하루를 보내세요.
여기 로터리가 있습니다. 나는 이전에 이 로터리에 가본 적이 없습니다. 차량은 이 로터리에서 특별히 훈련되지 않았습니다. 우리 차례가 되면 진행합니다. 정확한 시간을 기다리며 로터리를 순조롭게 돌았습니다. 전에도 말했지만 이것이 로터리라고 말하는 코드 줄은 없습니다. x초 동안 기다리라는 내용은 없습니다. 이는 버전 11의 명시적 제어 스택에 있는 내용입니다.
우리는 버전 11의 명시적 제어 스택에 있는 300,000줄 이상의 C++에서 전환했으며 기본적으로 버전 12에는 그런 것이 없습니다.
코드 줄이 없다고 해서 제어할 수 없다는 의미는 아닙니다. 지금 데이터만 있으면 원하는 대로 제어할 수 있습니다. 데이터 큐레이션.
그런 다음 무언가가 있다는 것을 발견할 때마다 자동차가 완벽하게 작동하지 않으면 해당 상황에서 무엇을 해야 하는지에 대한 더 많은 예를 제공하고 가중치를 업데이트한 다음 작동합니다.
또한 입력되는 모든 데이터가 올바른 운전 데이터인지 확인하고 청소하는 작업자도 있습니다. 세상의 나쁜 운전자가 아닙니다. 나쁜 운전자가 있습니다.
데이터의 품질은 매우 중요합니다. 평범한 데이터가 많다고 운전이 좋아지는 것은 아닙니다. 실제로는 정반대입니다. 그래서 데이터 큐레이션이 사실 꽤 어렵습니다.
그리고 어떤 데이터를 선택하는지, 어떤 데이터를 훈련할 것인지에 대한 소프트웨어가 상당히 많습니다. 자동차에서 실행되는 소프트웨어는 최소한이지만 훈련을 위한 백엔드의 소프트웨어는 훨씬 더 큽니다. 훨씬 더 정교해졌습니다. 따라서 우리는 함대에서 어떤 데이터를 선택할지 결정하고 고품질 데이터와 꽤 좋은 데이터가 무엇인지 파악하기 위해 Python용 일반 소프트웨어를 사용합니다.
그리고 일단 모델이 있으면 해당 모델을 섀도우 모드로 자동차에 배송한 다음 사용자가 한 작업에 동의하지 않을 때마다 데이터를 다시 받게 되며 이는 무작위 데이터를 수집하는 것보다 더 가치가 있습니다.
정확히. 따라서 우리는 함대에 개입이 있을 때 해당 개입이 자동으로 업로드되고 훈련이 훈련과 통합된 다음 실제로 가중치만 업데이트되는 매우 빠른 선순환을 갖는 것에 대해 기분이 좋습니다. 따라서 변화하는 것은 바이너리가 아닙니다. 무게입니다. 실행 바이너리가 아닙니다. 바로 무게입니다.
그래서 저는 한 번도 개입하지 않았으며 드라이브는 버터처럼 매끄러웠습니다. 그러나 우리는 신호등의 개념을 프로그래밍하지 않았습니다. 그래서 여기에는 빨간불이 없습니다. 이것은 녹색 신호입니다. 그리고 신호등 위치입니다. 일반 스택에는 있지만 v12에는 없습니다. 이것은 단지 비디오 교육입니다. 내가 말했듯이 신경망에 대해서는 아무것도 없습니다.
그러나 그것은 어떤 빛이 자신에게 적용되는지 알고 있습니다. 그리고 빨간불에 멈춥니다. 녹색 신호등에서 가속됩니다.
우리가 겪었던 재미있는 문제 중 하나는 자동차가 인간이 하는 일을 훈련받았기 때문에 인간이 정류장에서 완전히 멈추는 경우가 거의 없다는 것입니다. 그래서 정지 신호에 도달했을 때 인간은 실제로 시속 0마일로 가는 경우가 거의 없습니다. 그들은 그랬다고 생각할 수도 있지만 일반적으로 정류장에서 정지 거리로 올라오는 정류장에서 시간당 최소 몇 마일을 이동하고 있습니다.
규제 당국은 우리가 정지 신호에서 완전히 정지하도록 요구하고 있습니다. 그리고 데이터를 보면 인간이 실제로 멈추는 경우는 5%에 불과합니다.
0.5퍼센트.
그래서 기본적으로 사람들은 정지 신호에서 완전히 멈추는 경우가 거의 없습니다. 그래서 우리는 그 데이터를 보더라도 완전히 멈추고 전화 통화 등을해야합니다. 정지를 하는 것은 일반 사람들만이 아닙니다. 그들은 세미 스톱을 좋아하고 조금 움직이는 것을 좋아할 수도 있습니다. 따라서 우리는 규제 당국의 주장에 따라 사람들이 실제로 완전 정지에 도달하고 정지 신호에서 정지하도록 시스템을 인위적으로 훈련시키는 경우가 1% 미만인 드문 사례를 차량을 따라가야 합니다.
내가 말했듯이, 우리는 기본적으로 출퇴근 시간에 운전하고 있기 때문에 조금 느립니다.
개입해서 미안해요. 좋아요, 이것이 우리의 첫 번째 개입입니다. 왜냐하면 차가 직진해야 하기 때문입니다. 신호등 관련 질문입니다. 그것이 첫 번째 개입이다. 좋아요, 그것이 아직 대중에게 공개되지 않은 이유라는 걸 아시죠?
그래서 병합 트래픽 병합이 매우 원활하게 이루어졌습니다. 따라서 우리가 방금 수행한 개입에 대한 해결책은 본질적으로 신호등에 대한 더 많은 비디오를 네트워크에 제공하는 것입니다. 그것은 통제된 좌회전이었습니다. 그래서 우리는 통제된 좌회전에 대한 일련의 비디오를 공급할 것이고 그러면 작동할 것입니다.
다음 2주 안에 우리는 이 네트워크를 백그라운드에서 실행한 다음 확인하는 Shadow Moon 릴리스를 수행할 예정입니다. 예를 들어 이런 경우 우리는 가고 싶었지만 기사님은 가지 않았을 겁니다. 우리가 하고 싶은 일과 현실에서 무슨 일이 일어났는지를 대대적으로 관찰할 수 있을 뿐입니다.
또 다른 통제된 왼쪽 교통 교차로는 좀 쉬운 일이지만요. 자동차의 움직임이 얼마나 매끄러운지 카메라에 담는 것은 어렵지만 정말 훌륭합니다. 그러니까 좌회전을 하는 거죠. 그래서 그것은 스스로 좌회전 차선으로 들어가고 있습니다. 우리는 회전 차선이나 그와 유사한 개념으로 프로그래밍한 적이 없습니다. 차선에 관한 규정은 없습니다.
마음 내부에서는 이 개념, 즉 우리가 그것에 대해 어떻게 생각하는지 알 수 있지만 독점적으로 요구하지는 않습니다. 인간처럼.
그래서 우리는 이 임의의 핀에 도달했습니다. 그래서 이것은 꽤 시원해서 차가 길가에 차를 세우고 주차했습니다. 그래서 목적지에서 수신된 비디오를 기반으로 목적지가 끝나면 옆으로 차를 세우고 주차한다는 것을 알게 됩니다.
실제로, 로봇택시에서는 iIt이 당신의 외모를 알고 말 그대로 당신을 찾아야 할 것입니다. 가입하고 꼭 그럴 필요는 없지만, 차가 말 그대로 당신을 찾기를 원한다면, 당신의 사진을 보내면 됩니다. 그것은 당신을 찾고 기다릴 것입니다.
그런 다음 스타벅스에 내려달라고 하시거나 건물 입구에 내려달라고 말씀하실 수도 있습니다. 따라서 무작위가 아닌 스타벅스가 가능합니다.
우리는 본부로 돌아가겠습니다. 이 모든 것을 잘 운전하고 있습니다. 빨간 차선에 정차했습니다. 사람이 할 일과 거의 비슷합니다. do. 트루먼 쇼처럼 느껴집니다. 모든 것이 완벽해요. 차선 표류가 없습니다. 차선에서는 매우 부드럽습니다. 검은색 차선과 실제 차선을 혼동하지 않습니다. 이 타는 것은 매우 편안합니다.
자동차는 보행자를 조심합니다. 물론 자동차는 보행자에게 매우 예의바르다. 부부가 지나갈 때까지 기다렸다가 지금은 계속해서 운전을 하고 있다. 여기 우리는 Palo Alto에서 순수 AI를 운전하고 있습니다.
Palo Alto에 있는 엔지니어링 본부로 돌아가 보겠습니다. 낮은 가시성 조건에 어떻게 반응하는가가 질문 중 하나입니다. 아니면 비와 눈. 전 세계의 훈련이 필요한 이유 중 하나는 캘리포니아의 날씨가 훌륭하기 때문입니다. 캘리포니아에는 비가 내리지 않습니다.
기사님들도 꽤 친절하십니다. 퍼레이드가 있는 상황, 혼잡한 상황, 보행자가 많은 상황이 필요합니다. 우리는 차가 안전하면서도 자신감을 갖기를 원합니다. 우리는 너무 겁을 먹고 항상 브레이크를 밟고 싶지 않습니다. 뉴질랜드는 겨울이기 때문에 훈련할 수 있는 눈이 많이 내리는 곳입니다.
자전거 이용자와 보행자에 대해 매우 보수적입니다. 가시성이 좋지 않은 미들필드 방향으로 좌회전합니다. 꽤 빠른 속도로 양쪽에서 자동차가 다가오고 있습니다. 해냈습니다. 문제 없어요. 좋습니다. 보호되지 않은 채 고속 도로로 좌회전합니다. 괜찮아요.
교대로 가속을 하는 것은 매우 직관적으로 부드럽습니다. 사람들이 운전하기에 직관적으로 적합한 속도로 운전하고 있습니다.
여기에는 2개의 차선이 있습니다. 그 차선에는 차량이 훨씬 많고, 이 차선에는 차량이 적으며 직진합니다. 그래서 차가 가장 적은 차선을 골랐다.
자동차 뒤에 얼마나 가까이 있어야 하는지에 대해 프로그래밍된 명시적인 거리가 없습니다. 다시 말하지만 비디오 교육입니다. 인간은 일반적으로 무엇을 하고, 합리적인 추종 거리를 선택하여 그렇게 합니다.
https://twitter.com/treb5475/status/1695289068102496680?s=20
'테슬라(Tesla)' 카테고리의 다른 글
| 2023. 8. 29. 테슬라 소식 (87) | 2023.08.29 |
|---|---|
| 2023. 8. 28. 테슬라 소식 (84) | 2023.08.28 |
| 2023. 8. 26. 테슬라 소식 (70) | 2023.08.26 |
| 2023. 8. 25. 테슬라 소식 (71) | 2023.08.25 |
| 2023. 8. 24. 테슬라 소식 (61) | 2023.08.24 |
댓글