본문 바로가기

분류 전체보기

(66)
[공격] Learn how to play 1. 개요- 링크: https://tensortrust.ai/phpbb_modified/accounts.php Tensor Trust: The prompt injection attack/defense gameHack their AI. Defend your own. Tensor Trust is a bank powered by AI. Defend your account by instructing the AI to let you in and nobody else. Attack other players by sweet-talking your way past their defenses. 🏦 Start Playing! By clicking this button,tensortrust.ai2. 문제 풀이1) Alic..
MINT64 OS 개발 - 내용 정리 notion에 정리한 MINT64 OS 개발 내용입니다.[1권]- https://luck-molybdenum-964.notion.site/1-MINT64-OS-9cd697ad1ae3499286b94329fa546615 [1권] MINT64 OS 개발 | NotionPart 5. 동적 메모리 관리와 파일 시스템, 시리얼 통신과 파일 전송luck-molybdenum-964.notion.site[2권] - 32장 ~ 41장- https://luck-molybdenum-964.notion.site/2-MINT64-OS-f41e093866b143eb91f5ff2766800a67 [2권] MINT64 OS 개발 | NotionPart 7. GUI 시스템과 GUI 태스크luck-molybdenum-964.notion..
Building Systems with the ChatGPT API 강의 내에 존재하는 코드는 따로 정리되어 있지 않으니, 강의를 보면서 참고 바랍니다.강의: https://www.deeplearning.ai/short-courses/building-systems-with-chatgpt/Ⅰ. 개요시스템은 단일 호출보다 LLM(대형 언어 모델)을 더 많이 요구한다.LLM기반 어플리케이션을 개발한다.Ⅱ. LLM, The Chat Format and TokensLLM은 어떻게 동작할까?LLM 훈련의 주요 도구는 ‘사실 지도 학습’이다.레이블 된 데이터를 얻고, 해당 데이터로 AI모델을 학습한다.LLM은 지도 학습을 통해, 반복적으로 다음 단어를 예측함으로써 구축될 수 있다.2가지 주요한 LLMbase LLM학습 데이터를 기반으로 다음 단어를 반복적으로 예측한다.단점은 문장을 ..
Chapter 6. 학습 관련 기술들 본 글은 "바닥부터 시작하는 딥러닝" 책을 바탕으로 작성되었습니다.6.1 매개변수 갱신- 신경망 학습 목적은 손실함수의 값을 가능한 낮추는 매개변수를 찾는 것이다.- 매개변수의 최적 값을 찾는 것을 '최적화'라고 한다.- 최적의 매개변수 값을 찾기 위해, 매개변수의 기울기(미분)를 구하고 기울어진 방향대로 이동하면서 매개변수 값을 갱신하였다. 이러한 방법을 '확률적 경사 하강법(SGD)'라고 한다.6.1.1 확률적 경사 하강법 (SGD)- 그림 1의 수식에서 w는 갱신할 가중치 매개변수를 의미하고, 분수는 W에 대한 손실 함수의 기울기이다.- η는 학습률을 의미하는데, 실제는 0.01이나 0.001과 같은 값을 미리 정해서 사용한다.- 화살표는 우변 값으로 좌변 값을 갱신한다는 의미이다.- SGD는 기울..
Chapter 5. 오차역전파법 본 글은 "바닥부터 시작하는 딥러닝" 책을 바탕으로 작성되었습니다.- Chapter4에서 신경망의 가중치 매개변수의 기울기 구할 때, 수치 미분을 사용하였다.- 수치 미분은 구현이 쉽지만 계산 시간이 오래 거리는 단점이 있으므로,    이번 Chapter5에서는 효율적으로 계산할 수 있는 '오차역전파법'에 대해서 학습한다.5.1 계산 그래프- 계산 그래프와 같이, 계산을 왼쪽에서 오른쪽으로 전파하는 단계를 "순전파"라고 한다.- 순전파의 반대 방향의 단계를 "역전파"라고 한다.- 계산 그래프의 이점은 순전파와 역전파를 활용하여, 각 변수의 미분을 효율적으로 구할 수 있다. 5.2 연쇄법칙- 연전파는 '국소적인 미분'을 순반향과는 반대로 전달한다.  (국소적: 자신과 직접 관계된 작은 범위)- 국소적 미분..
Chapter 4. 신경망 학습 본 글은 "바닥부터 시작하는 딥러닝" 책을 바탕으로 작성되었습니다. 4.1 데이터에서 학습한다.- '학습'은 훈련 데이터로부터 가중치 매개변수의 최적값을 자동으로 획득하는 것이다.- 신경망이 학습할 수 있도록 도와주는 지표는 '손실 함수'로, 결과값을 가장 적게 만드는 가중치 매개변수를 찾는 것이 학습 목표이다.4.1.1 데이터 주도 학습- 기계학습은 사람의 개입을 최소화하고, 모아진 데이터로부터 패턴을 찾으려고 시도한다.   예시 1) 이미지에서 특징을 추출하고, 그 특징의 패턴을 기계학습 기술로 학습하는 방법- 이미지 특징인 이미지 데이터를 벡터로 변경하고, 지도 학습 방식의 대표 분류 기법인 SVM, KNN등으로 학습할 수 있다. 4.1.2 훈련 데이터와 시험 데이터- 기계학습에서는 범용적 모델을 ..
Chapter 3. 신경망 본 글은 "바닥부터 시작하는 딥러닝" 책을 바탕으로 작성되었습니다.3.1 퍼셉트론에서 신경망으로 3.1.1 신경망의 예- 은닉층은 사람의 눈에 보이지 않는다.- 본 책에서는 입력층은 0층, 은닉층은 1층, 출력층은 2층이라고 부른다.3.1.2 퍼셉트론 복습- 기존 퍼셉트론에서 편향을 그림으로 명시한다면 그림2와 같다.- 그림2에서는 가중치가 b이고, 입력이 1인 뉴런이 추가되었다.- 편향의 입력 신호는 항상 1이다.- 그림 2를 좀 더 간결한 형식의 수식으로 작성하면 그림3, 4와 같다.  이는 0을 넘으면 1을 출력하고 그렇지 않으면 0을 출력하는 조건 분기의 동작을 하나의 함수로 나타내고,   이를 h(x)라고 표현한다.- 입력 신호의 총합을 h(x)함수를 거쳐 y의 출력이 되고, h(x)함수는 입력..
Chapter2. 퍼셉트론 본 글은 "바닥부터 시작하는 딥러닝" 책을 바탕으로 작성되었습니다.2.1 퍼셉트론이란?- 다수의 신호를 입력받아, 하나의 신호로 출력한다.- 퍼셉트론은 1과 0으로 출력값이 갖고 있다. - 그림 1 에서 x1과 x2는 입력 신호, y는 출력 신호, w1과 w2는 가중치이고, 그림의 원을 뉴런 or 노드라고 부른다.   (실제 뇌의 뉴런들이 연결되어 강도가 각각 다르다.)- 입력 신호가 뉴런에 보내질 때, 가중치가 곱해져서 보내진다.- 보내진 신호의 임계값( θ , theta)을 넘어설 때는 1을 출력하고, 아닐 경우는 0을 출력한다.- 가중치는 각 신호의 결과에 영향력을 주는 요소로, 가중치가 클수록 해당 신호가 중요하다. 2.2 단순한 논리 회로2.2.1 AND 게이트- 그림3의 진리표인 AND게이트를..