観測
記録 / 012018–2020年

言語

事前学習から、少数の例による学習へ。

OpenAI · GPTの系譜言語を支える物質。

2018年のGPTの生成的事前学習に続き、2019年にはGPT-2が段階的に公開された。2020年のGPT-3は、課題ごとの微調整なしに少数の例から課題を遂行した。

多くの書き手から学んだパターンが、一文になる。蓄積された言語は畏敬を招き、その声を使うことには責任が伴う。

記憶

生成された文の作者は誰か。

測れない広がり
残されたもの

次の観測

原則