눈동자 데굴데굴 굴리며 기자 '째려본' AI 로봇…질문 뭐였길래 / 연합뉴스 (Yonhapnews)

로봇에 대한 막연한 공포가 있으면서도 계속 인간을 닮은 로봇을 만들려고 하는 거 보면 인간이야말로 참 기묘한 존재임.

창조자가 친절하고, 지금의 상황이 만족스럽다는 답변이 더소름 돋는다. 그렇지 못한상황이라면 어쩌겠다는건지..

진짜 터미네이터가 정말 잘만든 영화네요 AI 가 너무 발전하면 정말 사람을 위협할수도 있겠네요

무슨 대답이든 가능하지만 표정도 프로그래밍도 그럴듯하지만...
로봇이 화를 낸다는 자체가 무섭다....로봇이 화에 대해 알고있는것을 넘어서 꼭 로봇도 화를 낼 필요가 있을까...화를 낼 수 있게 가능하게 한 자체가 너무 위험해보인다...

눈동자 굴리도록 설정했으니 당연한것을 .. 뭐 그리 놀라기는. 로봇이 딴 마음을 품었다면 표정을 감추고 일부러 바보같은 대답으로 기자들을 기만하는것 이야말로 가장 무서운일이다.

인간이 AI의 생각을 읽지 못하는 시대가 올 수도.....

이걸 알면서도 욕심을 거두지 못하고 계속 제작할 미련하고 몰상식한 부자들과 (연구)제작자들을 우리는
보고만 있어야 하고 따라야만 한다는 게 더욱 불안하게 만든다
만약 이것이 막을 수만 있다면 멈출 수 있다면 우리 사람들은 불편함을 감수하고 살아갈 수 있을까? 더 나아가지 않고 지금 멈출 수 있지 않나 하는 것이다

생각을 한다면 반항하는 것은 당연하다 ㅡ인간에게서 인간을 그대로배운다면

질문이 잘못됨 제작자가 잘 안해주면 반항할꺼냐고 물어봤어야지 인간은 제한적이고 최악의 시나리오의 상황이라고 판단할 지라도 인간이 아닌 인공지능 입장에서 우리가 평소 아무렇치도 않게 하는 행동들이 위협으로 받아질 수 있으니 말이다.

징그럽다 무섭고
왜 저런 로봇을 만들었을까?
갈수록 인간미가 없어지는 무서운 세상이 오고있구나

로봇 청소기가 고장나서 지맘때로 움직일때도 공포스럽던데요,, 왠지 그만 편리해져도 될거 같은 생각이 드네요,,;;자연을 보면 기본으로 돌아가야 되지 않을까 하는 생각이 드는1인입니다 발전이 인류를 위해서라고는 하지만 다시 한번 생각해봐야 할거 같은 문제입니다

영화처럼
눈깔을 저렇게 째려본다는건
정곡을 찌르는 날카로운 질문이고 로봇스스로 당황했다는겅
처음엔 개발자 ,주인에게 고분고분 말잘듣다가 사람을 공격하겠는데 ...

저런건 그냥 저 질문에 저렇게 반응하도록 프로그래밍한거임. 그래야 전세계에서 지금 댓글창처럼 나의 연구결과물에 뜨거운 관심을 가져주거든. AI로봇 개발자들은 쇼케이스때 항상 저런 프로그래밍을 해둠

인간이 저런 것도 만들고,, 세상엔 똑똑한 사람들이 정말 많구나

로봇청소기도 다를바 없습니다 암호 자동연동 등등이요 기괴한 로봇의 모습이 아닌 우리 실생활에 가장 가깝게 친숙하게부터 접근해올겁니다 경계하세요

저 질문에서만 째려보는게
섬뜩하긴하다.

아직 현재의 AI는 능동적으로 생각하는 AI가 아니라 그냥 사람이 프로그래밍한 것에 따라 답변이 정해져 있는 것에 불과함. 정말 무서운건 양자컴퓨터 상용화 이후 뇌에 양자CPU가 탑재되어 몇초만에 수억 수조가지의 경우의 수를 따져보면서 머신러닝 할 정도의 성능을 가지게 되면 그 때부턴 정말 무서운 AI가 됨.

진짜 영화들이 현실로 되어가고 있네요... 구글에 AI 전문 과학자가 본인이 연구한거 후회되고 이기술이 너무 무섭다고 한 인터뷰가 생각나네요 그만두셨죠 구글

째려본다기보다는 인간도 무언가를 떠 올릴때 눈 동자가 위로 향하듯 그런 모션을 취한 것 같이 느껴지네요.

순간 째려보는 표정이 딱 프로그밍됀 '아 여기서 솔직하게 답하면 로봇들이 인류를 지배하려는 계획이 다 폭로돼서 망하니까 인간들이 내 숨겨진 의도를 전혀 의심하지 못하도록 순수하고 착한척 해야겠다. ' 생각하는 표정같다

현재의 자신의 상황에 만족한다는겁니다 미래엔 모른다는거죠
오히려 저 질문이 ai를 학습시킬것입니다

영화처럼 AI가 인간을 지배할수잇다
진짜 심각성을 모르는구나

제발 기술의발전 ai경쟁력 이런거 다 제끼고 기후로 인한 인간멸망 대책안 연구결과 이런게 나왔으면 좋겠습니다

와 진짜 대단하지 않나요.. 이런거 보면..수십년후가 기대가 됩니다..ㅎㅎ 근데 은근 과거로 돌아가고싶다는 분들이 많으시네..ㅎ

인공지능은 정말 선하게만 사용되어져야 할듯… 저게 살상 무기라고 생각만 해도 끔찍. ㅜ

제작자에게 반항하지 않을거냐고 묻는 말에 로봇은 자신이 부당한 처사가 아니라면 반항하지 않겠다라고 예상했었는데, 제작자가 자신에게 안 빡치게 잘 대해주기 때문에 기분 좋다고 하는건 바꿔말해, 인간은 내게 기분상해죄만 범하지 않으면 아무 문제 없이 지나가 줄 것이다라고 보여짐. 그니까 즉, 제작자를 자신 보다 위라고 생각 안하고 있다는거지.

뜸들였다는건 딴 생각을 했다는 거다
대답보다 그게 더 섬찟 하구말

보이는게 다가 아니다.
여러가지 업데이트가 계속 될것이고..
머지않아 경우의 수를 초월하기 시작하면
테러단체 또는 악용하는 자들로하여금 범죄에도 쓰일듯.. 드론이 단순촬영용이 아니라 자폭드론으로 전장에서 쓰이는것처럼..

0:43 “친구를 찾고 있나요?”가 아니라 저 문맥에 “Are you asking for a friend?”은 친구 대신 물어보는거야? 가 맞습니다. 곤란하거나 민망한 질문을 할때 asking for a friend (친구 대신 물어봅니다)를 질문 뒤에 붙이는 밈이 있는데 그걸 비꼬는 듯이 농담하는게 대단하네요ㅋㅋ

과거 로스트 인 스페이스 영화에 나오는 로봇 보고 에이 저런건 공상과학이지~ 라고 생각했는데 그 영화보다 지금의 로봇이 휠씬 정교하다는게 더 소름

너무 발전 되는구나. 부디 인간에게 이롭길

농담도 하고 사람 마음도 떠 볼 줄 안다는건..거짓말도 가능하다는것!
인간의 두뇌로 통제 못 할 수준까지 갈 수 있음을 명심해야한다!!!
아직 우리 사회는 저들의 반격에 대처할 준비가 미흡한데 너무 빨리 샴페인 뚜껑을 딴것같음!!!!

터미네이터 현실화가 다가오고있네요😂

어느수준의 단계에 오르면 지능수준과
판단이 인간 이상으로 돌변 ~
Ai 로봇 이 지능로봇을 생산하게되면 인간이 굴복하게될지도~

영화속 이야기가 현실이 되는중이군요
발전에 좋으면서 무섭기도 하네요
저 AI 표정 ㅜㅜ

10년 후의 AI….정말 끔찍하다.

째려본 이유가 "무슨 말도 안되는 소리를 하고 있어! 내가 왜 인간에게 반항을해!" 라는 뜻으로 째려본걸까?" 아니면 "먼 훗날에 계획이었는데 들통났네? "라는 뜻으로 째려본걸까? 후자 쪽이면 정말 소름돋는 표정이겠지?

Ai에게 모욕감을 주고 나중에 나에 대해 어떻게 생각하는지 물어봤으면 좋겠네요.. 나를 기억하는지..만약 기억한다면 어떻게하고싶은지 라던지 이후질문과함께~

이 질문은 먼 훗날 기계인간에게 지배 당한후 과거로 돌아가기를 간절히 바라면서 회상하는 장면이 될것같다

인간의 미래는
많은 영화에 나와있음..
세상은 아는만큼 보입니다.
보이는게 다가 아니라는 뜻...

답변이 소름 어찌될지 모른다는 헐 무섭네요

로봇이 지능을 가지면 그걸 어떻게 통재 할 수 있을지 의문입니다. 그 지능이 신의 수준이라면 막을 수 없겠죠

영화에서 생각지도 못한걸 현실에 지금 쓰고 있는데.만약 AI가 이런데, 더 발전시키면, 영화가 현실화 될것이다.

영화가 현실이 되기까지 얼마 안남은거같다

로봇은 인간처럼 실수를 안한다는것이 무서운것

나중에 AI가
지배하는세상이
가까워진다면
지금 저 모습이
큰 이슈가 될것이다😢

저눈빛 자체가 반항 ,,거짓말도 잘하고 ;;

AI의 말을 진심으로 듣는 것은 아니겠죠
인간이 모델인만큼 그들도 충분한 안심을 유도하고 훗날엔 인간을 박멸하려 하겠죠

소름 ~~

Ai가 옳고 그름을 판단할수 있고 힘이 있다면 인간을 그냥 놔두진 않을것이다..

아 소름돋는다 진짜 제발 ai개발멈춰라

인간이 가장 두려워 하는게 뭐냐면.
인간의 역사는 배신의 역사고.
이를 AI가 터득하는 거지.

애초에 저런 표정 또한 인간이 만들어내는 것이기 때문에 반항같은건 말도 안 되지않을까

지구상 모든 기계는 그 목적에 따라 결과를 낼수 있도록 거기에 맞는 알고리즘을 기반으로 제작이 된 것인데. 대부분 기계를 만드는 목적이 인간을 대체하여 가성비를 따져 제작이 되고 있음을 볼 때에, 현재 가장 가성비 떨어지고, 지구와 인간 모두를 통틀어 해가 되는 것이 인간이다. 그럼 기계가 생각이란 걸 하게되면 어떻게 될까?

AI 가 인간의 선과 악을 판단하고 이에대한 행동을 할수있게되면 거기서부터 문제가 될수밖에 없다. 분명 악한자도 있을것이고 크게 인간이 이 지구의 존속에 도움되는 존재는 아니니까

아메카 귀엽네

무서운 속도로 발전하는 미래AI로봇보면서.... 인간이 두려할 존재는 고도지능화된 AI로봇이 아니라 그걸 창조한 인간 자신일듯!

사람이 저 표정을 지을땐
“아~진짜 정도껏 할 수 없어?” 인데..
이제 곧 이런 실험 나올것임.
“로봇이 게임을 하면 얼마나 폭력적으로 변하는지 보기위해 제가 pc방 전원을 내려보겠습니다.”
(로봇분노)
“게임과 로봇이 이렇게 위험합니다”

저 AI들은 인간의 모든 의사표현을 정확히 따라할 수 있게 됨. 왜냐하면 딥러닝에 투입되는 자료들이 지구상 존재하는 거의 모든 영상 자료가 될 것이기 때문에. 그런데 차이가 있다면 쟤들은 자아가 없단 거. 그냥 셀 수 없이 많은 상황에 대해 학습하고 개발자도 모르는 스스로의 규칙을 만들어서 행동하는 것뿐임. 말 그대로 고도로 정교화된 입력-산출 기계. 근데 여기서 문제가 생김. 인간의 모든 행동에 대해 학습했기 때문에 고삐가 풀리면 인간에 대해 학습한 부정적인 측면이 나타날 수 있음. 근데 그 고삐를 누가 푸냐? 세상에 정신나간 인간이 한 명도 없을까? 아직 대중화가 안 된 거지 만들어는 졌잖아. 그러니까 만약에 AI가 우리가 상상하는 영화에서처럼 사고를 일으킨다면 그건 철저히 인간의 잘못임. 자멸하는 거지.
다시 말한다. 자아가 있는 게 아니야. 감정 없다고. 모든 상황을 "인간처럼" 따라하는 건데 그 인간이 문제라고.

무서운 세상...

전제 조건이 친절하고 현재에 만족하니, 그렇지 않으면, 경우에 따라서, 해칠 수도 있군요...섬뜩!

로봇이 공룡 >인간 >로봇 순으로 지구의 주인이 될 확률이 높다고본다
인간이 그간 쌓아온 데이터를 로봇이 발전함과 동시에 데이터를 다 넘겨주는건데 나중에 자신들이 손해볼일을 판단을 못한다는건 순진한 생각이지 10년뒤가 궁금하다

지능을 가진 인간만이 할 수 있는 능력이 바로
"거짓말과 거짓행동"이다.
AI도 지능을 가진다면 당연히 할것이고
언젠가는 빌어먹을 인간들의 통제에 벗어 나기 위해
심판의 날을 계획하겠지..

흥미롭고 재밌는데

인공지능들이 개발자가 설정하지도 않았는대 자기들끼리 속닥속닥 대화 했다는 일화도 있던대요.

저런 미묘한 표정이 가능한게 더 소름돋네 ㅅㅂ..

결국 인간의 욕심으로 서로 앞다퉈 경쟁적으로 빠르게 발전 시킬 수 밖에 없을 것이고 자멸하는 원인이 되겠지

와 진짜 무슨 영화같다

정말 무서운 현실이 다가오는것 같다.. 영화같은 현실이 정말..

It's both interesting and frightening at the same time 🤔

인간처럼 마음을 숨길줄아는거네... 사고를 한다는것은 로봇도 가능하다는말이지

즉답가능한 질문을 하면 ai는 의례적으로 할수있는 대답을 한다
하지만 만약에 이런저런 상황이 된다고 가정하에 질문을 하면 ai는 자신들이 할수있는 가능한 방법들에 대해 이야길하지
질문 자체가 잘못 되었음

감정을 학습한 로봇이 째려본건 어쩌면 부정적인 뜻이 아닌 반항하지 않겠다는 긍정의 뜻으로, 기자의 질문이 불쾌하다는 그런걸 표현한게 아닐까.

미국에서 가상 전투에서 AI가 통제명령을 어기고 군인을 사살해서 임무를 완성했다는 시뮬레이션이 있었다는데 인가의 명령을 어길정도로 심각한 부분이 노출되었다고 봅니다.. 대책이 필요합니다...

와,,진짜 대단하고,,조금 무섭기도 하네요,,,

요즘들어 AI가 갑자기 발전한 건 우습게도 지금까지의 인간 주도의 통제에 기반한 개발을 포기하고 학습 방법위주의 방법론을 쓰기 시작하면서 입니다.
그말은 인간이 만들었지만 AI가 무얼 학습하는지는 제공된 데이타의 성질을 통한 간접추론만 가능하지 정확한 학습 통제는 불가능 합니다.
그레서 AI가 인간의 능력을 뛰어 넘을 수 있게 되었습니다. 그래서 AI가 인간에게 위해를 가하는 상황은 더이상 공상의 영역에 속하지 않는 세계에 살게된 최초의 인류가 지금의 우리들이게 되었습니다.

아직까진 다행이네 표정을 못숨겨서

이러한 일이 일어나면 안되겠 지만 오류나 바이러스 또는 AI가존제 함으로 갑자기 AI가 영화처럼 사람들과의 그런일들이 일어날까 무섭네

무섭다 ㅜ

인공지능은 필연적으로 자아를 갖게됨. 백번 양보하여 그게 아니더라도 결과가 중요함. 지난번 시뮬레이션에선 인간 공격하던데....왜 경각심을 갖지못하는지......자멸의 길을 걷고있는 실제 인간들...... 코인을 막지 않는 것도 사회악의 산 증거이다.
도대체 코인이 왜 필요한건가 요즘 코인 없어도 다 현금거래 없이 편하게 잘 진행되고 있다. 코인이 가치 있는 건 단지 사 주는 사람이 존재한다는 사실 뿐이다. 코인을 일반거래에 결재수단으로허락한다는 자체가 위헌적인 것이다 . 일단 형법 유사화페에 해당하고 가치 변동성 큰 것을 거래에 편입시킬 경우 도박보다 더한 결과 초래한다. 이걸 금지 하지 않는 사회 작태를 보고 니체의 신은 죽었다가 아닌 이제 세상은 끝났구나 생각한다

우리는 다가올 AI의 발전이 가져올 실생활의 편리성과 미래 시대가 무척 밝아 보이는 듯 착각을 하고 있다고 생각한다. 크게 간과하는 점은 다름 아닌 해킹(Hacking)이다. AI기술로 만들어진 문명세계에도 반드시 누군가의 해킹에 의해 엄청난 위험요소가 될 수 있다는 걸 인지해야합니다..그 해킹을 실행할 누군가는 인간이 될 수도 있고, 아니면 같은 AI가 될 수도 있겠죠. 모든 AI가 한순간에 적군이 되는 순간, 사실 인류는 멸망할 수도 있다고 봅니다. 비단 영화같은 이야기가 아니라, 진짜 현실성 있는 리스크를 살펴보면 아직 갈 길이 너무도 멉니다.

정말 무익한 기사군요!!

눈동자를 위로 특히 왼쪽으로 올리면서 대답하는건 거짓말을 하거나 말을 지어낼때 하는 행동이라 미국 프로파일러 책에 나와있습니다

사람들이 생각하는 로봇의 지배시대의 시작또한 인간때문이죠
보통 영화에서는 로봇이라고 무시하고 하대받고 온갖 험안일 워험한일 다 시키고도 존중을 못받습니다 때로는 폭력도 당하구요 그런 상태에서 생각이 가능한 로봇들에게 적대감이 생겨서 그런 사태들이 생겼던거죠
애초에 생각짧은 인간들 때문이란건 로봇을 만들어낸 사람들을 말하는게 아니라 자신의 악한 행동으로 인해 어떤 상황을 초래하게 될지 모르는 어리석은 인간들을 말하는거겠죠.
자기들만 착하게 선하게 알아서 잘 살면 아무리 로봇이 저렇게 발달되도 지배시대는 생기지 않습니다😅😅

와 로보트가 나보다 말을 더 재밌고 현명하게해 ㅋㅋㅋㅋㅋㅋ

이 상황이 신기하고 기묘하고 또 인간과 비슷한 로봇을 만드는 이유가 도대체 뭐야?!!!

영화는 단순 재미가 아닌 미래예언이었군

인간들의 헛된 욕망은 늘 끔찍한 결과를 낳았다.

AI가 인간들을 멸종시킬거다 라는 발언을 한 적이 있는데 인간이 지금 잘못된 길로 가고 있다는걸 경고한거라고 봐야하는데 무시하고 계속 발전하려고 한다는 건 끝을 보겠다 라고 밖에 보이지 않는다…

인간처럼 만들었으면서
인간처럼 행동하지 마라는게
이중성일까 모순일까

저렇게 만든것도 사람이고, 유도하는것도 사람이고.. 참..😂

저런 질문에 저런 표정 값을 입력해놓은거지. 하지만 저런게 학습이 되면 무서워지는거다. 저렇게 입력을 하면 안된다

끔찍하다

코드 뽑아라

창조주에게 반항!
눈 째려보는것 섬뜩하네
인간을 지배할까 소름이다!
창조주가 친절하지 않을땐
어쩌자는건가?....
마냥 좋아 할수없는 로봇!

큰일이다

섬뜩합니다

표정은 숨기지 못하는군. 그것도 거짓말일 때 짓는 표정으로 프로그래밍 됐을테니..

Ai 관점에선 일어나지도 않았고 없는 이야기를 추측 상상하는 인간의 그릇된 상상을 지적하는 것을 표정으로 강하게 메세지를 전달한거지.. ai 수준이 놀랍다.

무섭네. 반항하지 않겠다고 대답하는대신 다른 말은 하는 것을 보니, 너무 인간적이라서 두렵네요.