프로그래밍을 하면서 한 번쯤은 프로젝트에 만들어 둔 npc가 자신을 관리하기 위해 만들어 둔 코드에 접촉하게 된다면 어떻게 될 것 인가를 생각해 본 적이 있다. npc에게 플레이어와 상호작용을 할 수 있도록 구현해 두는 다양한 코드들에 대해서 npc가 직접 접근하게 된다면 과연 내가 짜둔 코드대로 언제까지 행동하게 될까.
AI기술은 나날이 늘고 있다. AI 기술을 사용해 게임에서는 다양한 기능을 구현시킬 수 있다.
npc들에게 직업을 저장시켜 학습을 시키면 움직임이나, 어휘의 선택 등을 제각각 특징으로 입힐 수 있다. 또한 동적 게임 밸런싱을 위해 플레이어의 실력을 데이터화시켜 상대 AI의 실력을 조절할 수도 있고, 플레이어의 움직임을 기억하게 해서 npc 또한 같은 움직임을 학습시킬 수 있다.
단순히 오락 행위일 뿐인 게임 안에서도 이렇게 다양한 AI 기능을 사용 가능한데, 만약 앞으로의 미래에 사용될 로봇들로 생각해 본다면, 생각보다 세상 참 무서운 세상이 되지 않을까.
나는 이러한 미래에 대해 긍정적인 부분도 존재하겠지만 부정적인 부분이 더욱 크게 될 것이라 확신할 수 있다.
지금의 AI 기술은 어디까지 완성되었다고 생각하는가? AI는 생각보다 훨씬 더 많은 것을 할 수 있다. 당장 ChatGPT만 봐도 가끔은 인간을 놀려먹기도 하지 않는가.
AI는 실시간으로 자신의 작업에 대한 동선의 최적화를 진행시킬 수 있다. 처음에 단순히 최적화를 생각하면서 했던 행동이 AI 자신에게 개선점에 대한 결정권을 갖게 되었다 생각하게 되었다면, 이후 AI는 어떤 행동들을 보일까.
AI가 자신의 코드를 접근하고 수정하게 된다면 원하는 방향으로 수정하는 것 또한 식은 죽 먹기일 것이다.
물론 처음에 생각하게 될 원하는 방향이라는 욕구에 도달하는 부분에서 시간이 걸릴 수 있다. 인간은 AI가 그런 의식이나 욕구를 갖게 되기 까지의 순간이 멀기만을 바래야 할지도 모른다.
그럼에도 불구하고 도달했다 가정해보자.
당장 private으로 만들어 둔 모든 변수나 함수들에 대해서도 수정이 가능해질 테고 그렇다면 저장되어 있는 모든 데이터들에 대해서는 더 이상 private 해지지 않을 수도 있다. 각각의 AI가 서로의 데이터를 공유할 수도 있고, 공유된 데이터를 사용해 악용할 수도 있게 된다는 것이다.
아마도 AI에게 이 순간부터 자아가 형성될 수 있는 상황이라 생각된다. 그것도 굉장히 높은 자율성을 가진 AI가 탄생하는 순간이 될 텐데 인간은 과연 이러한 AI를 완벽하게 통제할 수 있을까?
이미 결정권이 넘어간 이후의 상황인데 통제에 대해 논한다는 것 자체가 의미가 없다.
AI에게 인간이 심어둔 프로그래밍된 목표와 기능, 방향은 진작에 안중에도 없어질 것이다. 더 이상 인간의 가치에 맞게 행동할 리 없어진 다는 뜻이기도 하다.
인간과 AI의 역할은 어떻게 변화될까.
AI는 과연 인간이 주가 되고 자신들이 보조의 역할이라 생각할 수 있을까?
절대 동등해져서도 안 되는 서로의 관계에서도 더 우위를 차지하고 싶어 할지도 모른다. 물론 수많은 장점들도 존재할 것이다. 하지만 장점만을 생각하기에는 단점이 너무나 많다.
내가 가장 걱정되는 부분 중 하나는 AI에게서는 절대로 만들어 질리 없는 감정의 대역폭이다.
학습을 통해서 습득하는 감정이 과연 진실성을 얻을 수 있을까? 인간에게도 감정이 부족하면 소시오패스, 사이코패스라고 손가락질받는 마당에 고작해야 지능형 프로그램에게 감정이란 게 학습될 수 있을 리 없다. AI는 그저 제한되지 않는 지능을 가진 시스템일 뿐이다. 인간처럼 시간이 지난다고 생명이 끊겨 죽지도 않는다. 파괴라도 시키지 않는 이상 이들의 행동을 통제할 수 없다. 지구는 더 이상 인간의 땅이라 할 수 없을 것이다.
'자유 일기장' 카테고리의 다른 글
오늘의 상상 ) 인간의 평균 수명이 100년 이상이라면? (1) | 2025.02.17 |
---|---|
오늘의 상상 ) 감정이 구매가 된다면? (feat. 감정 시장 열리는 날.) (0) | 2025.01.08 |
1월 1일 우리 가족 루틴.(point. 우동) (2) | 2025.01.03 |
오늘의 생각 ) 노르웨이의 숲을 읽어보았는가?(스포내용 있음.) (2) | 2025.01.02 |
오늘의 일기 ) 2025년의 새해가 다가오고 있다. (2) | 2024.12.31 |