개발일지

[항해 플러스 AI 후기] 3주차 WIL : BERT와 GPT

이번주에는 언어 모델인 BERT와 GPT에 대해 학습하였다.과제를 BERT 위주로 진행해서, 아직 GPT는 많이 낯설다. 먼저 이번주에 학습한 내용을 정리하고, 과제를 중심으로 이번 주에 어려웠던 점을 회고하였다.3주차 학습한 내용: LLM 원리와 작동 방식RNN이나 Transformer와 같은 모델들은 train data가 충분하다면 좋은 성능을 발휘하지만, train data는 항상 충분하지 않다.data가 충분하지 않은 상황에서도 test data에서 잘 동작하는 모델을 만들기 위해 Pre-trained Model을 사용한다.1. Transfer learning다른 자연어 처리 문제를 푸는 모델을 활용하여 데이터가 적은 자연어 처리 문제를 해결할 수 있을 거라는 아이디어에서 시작한다.목표로 하는 자..

이번주에는 자연어를 처리하는 딥러닝 모델에 대해 다루었다.지난주 멘토링 시간에 코치님이 다음주에는 자연어라서 좀 더 재미있을거라고 하셨는데........... 🫠이번주에 새로 배운 개념과 이론은 정말 어려웠다.그렇지만 함께 AI 코스를 듣고있는 동료들과, 학습메이트와, 코치님과 함께 공부하면서 많은 부분을 새롭게 배울 수 있었고, 그런 면에서 정말 재미있는 한 주 였다. ⭐️2주차에 학습한 내용을 정리하고, 스스로 어떤 성장을 했는지 회고해보았다.2주차 학습한 내용: 자연어 처리와 Transformer 모델1. 자연어 처리와 자연어 처리에 필요한 기술인간의 언어로 이루어진 입력을 처리하는 문제이다.감정 분석(주어진 문장이 부정인지 긍정인지), 질의 응답, 기계 번역, 요약 등의 문제를 해결할 수 있다...

항해 플러스 AI 3기를 시작하게 되었다.https://hanghae99.spartacodingclub.kr/plus/aiAI 커리큘럼을 보면서 따라갈 수 있을지 고민하다가 결국 마감 직전에 신청하게 되었다. 🤣나에게 AI는 굉장히 낯선 분야이다.매주 학습하면서 배우는 내용들을 정리하기 위해 이 글을 작성한다.항해 플러스 AI 사전과정항해 플러스에서는 온보딩을 위한 사전과정이 준비되어 있다.그런데 합류를 늦게 하는 바람에 사전과정에 참여할 수 있는 시간이 며칠밖에 되지 않았다.항해 플러스 AI 과정을 잘 따라갈 수 있도록 파이썬과 머신러닝, 딥러닝 등 관련 강의들이 사전 제공된다.파이썬은 그래도 조금 사용해봐서 크게 걱정되지는 않았는데 머신러닝과 딥러닝은 완전히 처음 접하는 분야라서 걱정이 많았다.개강..

React Native로 간단한 앱을 만들고 있다. 최근에는 개발할 때 주로 Cursor를 사용하고 있다.https://www.cursor.com/ CursorBuilt to make you extraordinarily productive, Cursor is the best way to code with AI.www.cursor.com  환경변수를 추가하기 위해 chat에 물어보니 react-native-dotenv 라이브러리를 권장했다.https://www.npmjs.com/package/react-native-dotenv react-native-dotenvLoad environment variables using import statements.. Latest version: 3.4.11, last ..

7장 연산자연산자(operator)는 하나 이상의 표현식을 대상으로 산술, 할당, 비교, 논리, 타입, 지수 연산 등을 수행해 하나의 값을 만든다.피연산자는 연산의 대상으로 값으로 평가될 수 있는 표현식이어야 한다.연산자와 피연산자의 조합도 값으로 평가될 수 있는 표현식이다. 산술 연산자산술 연산자는 수학적 계산을 수행하며, 산술 연산자가 불가능한 경우 NaN을 반환한다. 1개의 피연산자를 산술 연산하는 단항 산술 연산자 중 ++ 나 --는 피연산자의 값을 변경하는 부수효과가 있다.피연산자의 앞에 위치한 전위 증가/감소 연산자는 먼저 피연산자의 값을 증가/감소 시키고 다른 연산을 수행하고,후위 증가/감소 연산자는 다른 연산을 수행하고 피연산자의 값을 증가/감소시킨다.var x = 5, result;// ..

8장 타입스크립트로 마이그레이션하기대규모 프로젝트를 타입스크립트로 마이그레이션할 때는 점진적으로 전환해야 한다.또, 진행 상황을 모니터링하고 추적해서 중복된 작업을 방지할 수 있어야 한다. 아이템 58 모던 자바스크립트로 작성하기타입스크립트는 코드를 특정 버전의 자바스크립트로 컴파일할 수 있다.옛날 버전의 자바스크립트 코드를 최신 버전의 자바스크립트로 바꾸면 최신 버전의 자바스크립트 기능을 코드에 추가해도 문제가 없기 때문에, 타입스크립트로 전환하는 작업의 일부로 볼 수 있다. 타입스크립트를 도입할 때 가장 중요한 기능은 ECMAScript 모듈과 ES2015이다. ES5에 도입된 strict mode보다 타입스크립트가 더 엄격한 체크를 하기 때문에 'use strict'는 무의미하다.코드에 'use s..

아이템 53 타입스크립트 기능보다는 ECMAScript 기능을 사용하기타입스크립트 개발 초기에는 자바스크립트에 클래스, 데코레이터, 모듈 시스템 같은 기능이 없어 독립적으로 이러한 기능들을 개발하였다.자바스크립트에서 이러한 기능들이 새로 추가되면서 타입스크립트의 초기 버전에서 독립적으로 개발했던 기능과 호환성 문제를 발생시켰다. 타입스크립트는 초기 버전과의 호환성을 포기하고 자바스크립트의 신규 기능을 그대로 채택하였다.자바스크립트는 런타임 기능을, 타입스크립트는 타입 기능만 발전시킨다는 명확한 원칙을 세웠다. 다음의 언급되는 기능들은 타입스크립트 초기에 개발된 기능들로 타입 공간과 값 공간의 경계를 혼란스럽게 만들기 때문에 가급적 사용하지 않는 것이 좋고, 불가피하게 사용한다면 유의해야 한다. 열거형(e..

운영에 참여하고 있는 사이드 프로젝트 앱이 있다. (막간을 이용해 홍보.... 놀러오세요~)https://apps.apple.com/kr/app/%ED%8F%AC%EC%B9%B4%EC%9D%B4%EB%B8%8C-phocaive-bts-%ED%8F%AC%ED%86%A0%EC%B9%B4%EB%93%9C/id1624512192 ‎포카이브(Phocaive) - BTS 포토카드‎방탄소년단(BTS) 랜덤포카 교환에 지친 아미를 위해, 방탄소년단(BTS)의 모든 포토카드를 보고 싶은 아미를 위해 포토카드 교환부터 아카이빙 된 포토카드 바인더까지 한눈에 확인할 수 있는 팬apps.apple.comhttps://play.google.com/store/apps/details?id=com.phocaive&hl=ko 포카이브..

아이템 42 모르는 타입의 값에는 any 대신 unknown을 사용하기// ❌ 반환 타입으로 any 사용function parseYAML(yaml: string): any {// ...}// ❌ 이 경우에는 제네릭을 사용하는 건 권장하지 않는다.function safeParseYAML(yaml: string): T { return parseYAML(yaml);}// 🟢 반환 타입으로 unknown 사용function safeParseYAML(yaml: string): unknown { return parseYAML(yaml); } 일반적으로 타입스크립트 타입시스템은 한 집합은 다른 모든 집합의 부분 집합이면서 동시에 상위집합이 될 수 없다.그러나 any는 어떠한 타입이든 any 타입에 할당 가능..

4장에서는 타입을 설계하는 것에 대해 다루고 있다. 이 내용은 타입스크립트 뿐만 아니라 다른 언어에도 적용할 수 있는 아이디어이다. 아이템 28. 유효한 상태만 표현하는 타입을 지향하기타입은 유효한 상태만 표현하도록 설계해야 한다.interface State { pageText: string isLoading: boolean error?: string} State 타입은 isLoading이 true이면서 동시에 error 값이 설정될 수 있는데 이러한 상태는 존재할 수 없다(무효한 상태를 허용한다). //isLoading이 true이고 error가 존재하면 로딩 중인지 오류가 발생한 것인지 알 수 없다.function renderPage(state: State) { if (state.error) ..