본문 바로가기

전체 글169

구글 TPU 무엇인가? TPU는 CPU 및 GPU와 어떤 차이가 있을까? 구글에서 개발한 TPU는 Tensor Processing Unit의 약자로 AI 시스템이 인공 지능 작업을 빠르고 효율적으로 수행하도록 고안된 프로세서입니다. 구글 TPU는 특화된 딥 러닝 작업, 병렬 처리 능력, 전력 효율성 등의 측면에서 CPU 및 GPU와 차이가 있습니다. 즉 TPU는 구글에서 자체 개발한 NPU 중에 하나이며 TPU는 구글 프로세스 제품명이라고 할 수 있죠.  NPU란? - NPU와 GPU 차이점 비교NPU는 Neural Processing Unit의 약자로 쉽게 신경망 프로세서라고 부를 수 있습니다. 즉 인공신경망의 연산을 전용으로 가속화하기 위해 만들어진 특수 프로세서예요. CPU나 GPU처럼 프로세서의 한 종8terabyte.com 구글 TPU란? 구글 TPU는 주로 딥 러닝.. 2023. 8. 21.
AI 작동을 위한 CPU와 GPU의 역할 정리해보기 챗GPT와 같은 AI 모델을 작동시키기 위해서는 CPU(중앙처리장치)와 GPU(그래픽처리장치)의 역할이 있습니다. CPU는 컴퓨터의 두뇌 역할을 함으로써 전반적으로 명령을 내리고 관리하는 진두지휘 역할과 비슷합니다. GPU는 세부적인 복잡한 연산 처리 등을 동시에 빠르게 계산하는 작업을 합니다. AI 모델을 작동시키기 위해 CPU는 프로그램에서 주어진 명령을 하나씩 읽어 들여 실행합니다. 이런 명령들은 컴퓨터 작동을 제어하는 명령어들로 구성되어 있습니다. CPU는 숫자와 데이터를 계산하고 다양한 수학적 연산을 수행합니다. 이런 연산은 프로그램의 로직을 구현하거나 데이터를 처리하는 데 사용됩니다. CPU는 컴퓨터의 메모리에서 데이터를 읽어오거나 데이터를 쓰는 작업을 처리합니다. 이를 통해 프로그램이 필요한.. 2023. 8. 19.
생성형 AI 탄소 배출량 얼마나 될까? (생성형 AI 에너지 소비량) 생성형 AI는 수많은 사람들에 의해 방대한 프롬프트 즉, 명령어나 명령 구문들에 의해 작동하면서 무한대의 결과 데이터를 보여줍니다. 이렇게 방대한 데이터 처리는 결국 슈퍼 컴퓨터들이 하게 될 텐데요. 에너지 소모가 상당할 것이며 이로 인해 탄소 배출량도 엄청날 것으로 생각합니다. 생성형 AI는 사람들이 요청하는 데이터를 처리하기 위해 쉬지 않고 달립니다. 사람의 두뇌와도 같죠. 이처럼 생성형 AI가 무한대의 데이터를 처리하려면 쉬지 않고 일을 하는데 그 처리 과정에서 슈퍼 컴퓨터들은 에너지를 먹는 하마라고도 할 수 있습니다. 이렇게 슈퍼 컴퓨터들이 에너지를 소비하면 할수록 탄소 배출량 또한 증가하는 것입니다. 미국의 TRG 데이터센터에 의하면 생성형 AI를 적용한 챗봇 중 에너지를 가장 많이 소비하는 챗.. 2023. 8. 18.
수소연료전지 자동차 어떤 원리로 작동될까? (수소전기차 작동 원리) 수소연료전지 자동차는 일명 수소전기차라고 말하죠. 수소전기차는 수소를 연료로 사용하는 연료전지를 이용한 미래 친환경 자동차입니다. 수소전기차는 전기자동차 범주에 속하지만 더 친환경적이라고 할 수 있습니다. 수소전기차는 가솔린 내연기관 대신 수소를 연료로 사용하는데 수소를 직접 태우지 않고 수소와 공기 중 산소를 반응시켜 발생하는 전기로 자동차 모터를 움직이게 하여 작동하는 원리입니다. 수소전기차는 엔진이 없고 연료전지 스택, 모터, 배터리, 수소탱크, 물 관리 장치, 공기공급장치 등으로 구성되어 있습니다. 여기서 연료전지 스택이란 연료전지 셀들이 수직으로 쌓여 있는 묶음을 말합니다. 이는 수소전기차의 핵심 요소입니다. 수소전기차가 작동하는 원리를 간단하게 말하면 수소와 산소의 화학 반응을 통해 전기 에너.. 2023. 8. 17.
블록체인 개념 및 원리 쉽게 정리해보기 블록체인(Blockchain)은 이름에서 유추할 수 있듯이 블록들이 연결되어 있는 것을 말하는데 여기서 블록이라는 것은 쉽게 말해 수많은 정보들 즉, 데이터베이스들이 모여있는 상자와 비슷하다고 생각하면 됩니다. 블록체인에서 각 블록은 구매 정보, 거래 내역 등 여러 데이터가 모여있는 집합체로 이런 블록들이 체인 구조로 연결되어 있는 것이 블록체인입니다. 블록체인의 형태가 머릿속에 그려졌을 겁니다. 블록체인 개념 및 원리 쉽게 정리 블록체인 개념은 디지털 세상에서 정보를 안전하게 기록하여 저장하고 공유하는 기술을 말합니다. 위와 같은 형태로 만들어지는 하나의 기술인 것이죠. 블록체인 원리는 마치 지울 수 없는 디지털 공유 기록 장부와 같은 원리입니다. 내가 기록한 장부에 여러 사람들도 동일한 장부에 기록을.. 2023. 8. 15.
프롬프트 엔지니어 개념 및 생성형 AI기술에 어떤 역할 하는지 정리해보기 IT 기술이 발달하면서 다양한 직업군이 생기고 있는데 그중에서 프롬프트 엔지니어라는 직업군이 있습니다. 특히 생성형 AI기술이 진화하면서 프롬프트 엔지니어는 더 주목을 받고 있습니다. 프롬프트 엔지니어의 개념과 생성형 AI기술에 어떤 역할을 하는지 정리해 보겠습니다. 프롬프트 엔지니어(Prompt Engineer)는 생성형 AI와 대화를 통해 진화되도록 교육을 시키는 사람입니다. 프롬프트 엔지니어는 이름에서 왠지 컴퓨터 등 이과 분야의 학습을 통해 전문적인 컴퓨터 기술자 같은 느낌이 들긴 합니다. 하지만 프롬프트 엔지니어가 자연어 즉, 언어에 대한 이해와 다양한 분야 또는 특정 분야에 대한 지식이 많은 사람이 될 수 있습니다. 생성형 AI는 인간이 말하는 무한한 자연어를 처리하는 초거대 인공지능으로 두뇌.. 2023. 8. 14.
생성형 AI 확산으로 IT 비즈니스 트렌드 정리해보기 챗GPT, 바드 등 빅테크 기업에서 생성형 AI 서비스를 출시하면서 IT 비즈니스 트렌드 전반적인 흐름을 정리해 보고자 합니다. IT 트렌드 중 일부라고 할 수 있겠습니다. IT 비즈니스의 주요 흐름의 핵심 포인트는 AI, 엣지 컴퓨팅, 사설 무선 네트워크입니다. 생성형 AI의 확산은 빅테크 기업을 포함하여 방대한 콘텐츠, 즉 데이터를 처리하는 다루는 기업들을 발빠르게 움직이도록 만드는 요인 중 하나입니다. 일반 유저들 즉, 사용자들에게 급속도로 퍼지기 시작하면서 다양한 측면에서 생성형 AI 서비스를 활용하고 있습니다. 이로 인해 많은 기업들이 AI 기술에 막대한 투자를 하고 있는 것으로 보고되고 있습니다. AI 기술은 2030년까지 전 세계 경제 성장에 15조 7천억 달러를 제공할 수 있는 잠재력을 가.. 2023. 8. 13.