관측
기록 / 012018–2020년

언어

사전학습에서 소수의 예시를 통한 학습으로.

OpenAI · GPT 계열언어를 떠받치는 물질.

2018년 GPT의 생성형 사전학습에 이어 2019년 GPT-2가 단계적으로 공개됐다. 2020년 GPT-3는 과제별 미세조정 없이 소수의 예시로 과제를 수행했다.

많은 작가에게서 배운 패턴이 하나의 문장이 된다. 축적된 언어는 경외를 부르고, 생성된 목소리를 쓰는 일에는 책임이 따른다.

기억

생성된 문장의 저자는 누구인가?

가늠할 수 없는 크기
남겨진 것

다음 관측

원칙