text:
# ChatGPT
ChatGPT（チャットジーピーティー）は、OpenAIが2022年11月に公開したGPT系列の大規模言語モデルを用いる対話型生成AIサービスである。

## 概要
ChatGPTの公開当初は大規模言語モデルとしてGPT-3.5が一般公開されていたが、現在はGPT-4o, GPT-4o mini、GPT-o4 miniを無料で使用することができる。その他のモデルは有料版で利用できる。教師あり学習と強化学習の両方の手法を使って転移学習され、機械学習のサブセットである深層学習を使って開発されている。
2022年11月30日、ChatGPTはプロトタイプとして公開され、幅広い分野の質問に詳細な回答を生成できることから、公開後5日間で利用者数が100万人、2ヶ月で1億人を突破するなど注目を集めた。しかし、ハルシネーション（幻覚）と呼ばれる一見自然に見えるが事実とは異なる回答を生成する現象や、脱獄により違法行為に利用できる回答を生成するなどの欠点も存在する。ChatGPTの公開後、2023年初頭にはOpenAIの評価額は290億米ドルとなり、2021年時の140億ドルと比べて2倍以上に増加した。更に2024年10月には評価額は1570億米ドルを突破した。OpenAIの筆頭株主であるMicrosoftが展開する検索エンジンのBingやウェブブラウザのEdge等の幅広いサービスの生成AIの技術にも、ChatGPTが活用されている。
2024年6月10日、Appleは独自の生成AIプラットフォームとしてApple Intelligenceを発表し、OpenAIは、AppleにChatGPTを提供する契約を結んだことを発表した。Apple IntelligenceはApple独自の生成AIプラットフォームだが、macOS Sequoia, iPadOS 18, iOS 18上のSiriや記述ツールからChatGPTを任意に呼び出して利用できるようになる。Apple Intelligenceのサービスは、2024年10月から端末言語がアメリカ英語の場合のみベータ版として提供が開始された。
スイスの金融グループUBSの分析によると、ChatGPTがアクティブユーザー数1億人に到達するのにかかった時間は、TikTokとInstagramがそれぞれ9カ月と2年半であるのに対して、2か月と史上最速である。
OpenAIによれば、ユーザーが入力した情報はOpenAIによってその内容を利用されることがある。このため、一般的にChatGPTの利用に際して個人情報と機密情報の入力に注意する必要があり、JPモルガン、サムスン電子など一部の企業はChatGPTへのアクセスを禁止している。
ChatGPTによる個人情報の収集に関しては、EU一般データ保護規則に違反している疑惑も浮上しており、2023年3月31日、イタリア政府はChatGPTの訓練のために個人情報を大量に収集することを正当化する法的根拠がないと指摘して、ChatGPTへのアクセスを一時禁止した。米国では、個人情報収集や著作権の問題により、ChatGPTの運営元企業OpenAIに対して複数の訴訟が提起されている。

## 学習
ChatGPTは、教師あり学習と強化学習を使用して、GPT-3.5上で微調整された。どちらのアプローチも、人間のトレーナーを使用してモデルのパフォーマンスを改善した。教師あり学習の場合、モデルには、トレーナーがユーザーとAIアシスタントの両方を演じる会話が提供された。強化ステップでは、まず人間のトレーナーが、モデルが以前の会話で作成した応答をランク付けした。これらのランキングは、 Proximal Policy Optimization（PPO）を数回繰り返してモデルをさらに微調整した「報酬モデル」を作成するために使用された。近接ポリシー最適化アルゴリズムは、信頼領域ポリシー最適化アルゴリズムに費用対効果の高い利点をもたらした。より高速なパフォーマンスで、計算コストの高い操作の多くを無効にする。モデルは、Azureを使用したスーパーコンピューティングインフラストラクチャでMicrosoftと共同でトレーニングされた。
さらに、OpenAIは、ChatGPTのさらなるトレーニングと微調整に使用できるChatGPTユーザーからのデータを引き続き収集する。ユーザーは、ChatGPTから受け取った応答に対して賛成票または反対票を投じることができる。賛成票または反対票を投じると、テキストフィールドに追加のフィードバックを入力することもできる。

## 機能
チャットボットの主要機能は、人間同士の対話を模倣することであるが、ChatGPTについてはそれを越える汎用的かつ即興的な機能が備わっているとされ、話題となった。ChatGPTは、マルバツゲームの相手をしたり、Linuxシステムをエミュレートすることができたり、プログラミングやデバッグが行うことができる。また、音楽、小説、脚本、詩、歌詞や作文などの創作活動もできる。その上、特定のテストに対して、人間と同水準かそれ以上の回答ができることがあるなど、幅広い機能を備えている。
前作のInstructGPTと比べ、ChatGPTは攻撃的・欺瞞的な回答の生成をできるだけ避ける仕様となっている。学習データにはmanページ、Pythonや電子掲示板など、プログラミング言語やインターネット現象についても含まれている。
ほとんどのチャットボットとは対照的に、ChatGPTは会話内での利用者による過去の入力を記憶している。これにより、ChatGPTが個人に最適化されたセラピストとして使える可能性があることが指摘されている。攻撃的な回答が生成されるのを防ぐため、ユーザーの入力とChatGPTの生成した回答はOpenAIのコンテンツモデレーションAPIによってフィルターされており、人種差別的・性差別的な入力への回答はAPIによって拒否される仕様になっている。
機能は豊富なものの、複数の欠点もある。OpenAIはChatGPTが「時によっては、もっともらしく見えるが誤っている回答を作成する」ことを認めている。ChatGPTの報酬モデルは人間による監視を中心としているため、最適化されすぎてパフォーマンスに影響を及ばしてしまう（グッドハートの法則）。それに加え、ChatGPTは2021年10月以降に発生した出来事については知識が備えられておらず、一部の著名人については知識が全くないこともある。
BBCによると、2022年12月現在でChatGPTは政治的な意見を表明しない仕様である。ChatGPTの学習中、人間の「教師」は回答の正当性などに関係なく長い回答を好んでいた。また、訓練データはアルゴリズム的バイアスがあり、時によって人種差別的や性差別的な回答を生成させることにもつながったと言われている。例として、有色人種や女性の科学者は白人男性の科学者よりも優れている、といった内容のラップを生成したことがあった。ChatGPT-4が日本の医師国家試験を合格することができたとの研究報告がある。
2025年にLifePrompt社が実施した、ChatGPT o1を使った大学入学共通テストの得点率が東大文一のボーダーを超える91%に達した。また、同年には理科三類合格レベルにも達した。

## サービス
ChatGPTは2022年11月30日に公開された。当初は無料で公開されたが、後に有料化する計画があるという。開発元のOpenAIは同年12月4日までにユーザー数が100万を突破したと見積もった。12月15日、CNBCはサーバーが「未だ時々ダウンする」と報告した。ChatGPTは主に英語での使用を想定しているが、他の言語でもある程度は機能することができる。2022年現在、最近話題となったAIとは対照的に、ChatGPTに関する査読済みの技術論文はない。
OpenAIの客員研究員であるスコット・アーロンソンは、ChatGPTの悪用を防ぐため、同社がChatGPTの文書生成システムに何らかの形で透かしを入れる機能を開発していると明かした。また、ニューヨーク・タイムズは、ChatGPTの後継として、GPT-4が2023年内に公開されることが「噂されている」と報じた。
2023年2月1日、有料版として「ChatGPT Plus」が発表された。アクセス集中時にも優先的にアクセスできるようになっており、反応の高速化や新機能の使用ができる。アメリカから順次サービスが提供される。
2023年11月6日、OpenAI DevDayが行われた。その中で、ノーコードでカスタマイズ可能なChatGPTを作成できる「GPTs」を発表した。またGPTsを公開できる「GPT Store」を予定より少し遅れた2024年1月10日より、有償版ユーザー向けにリリースされた。
2024年12月5日、ChatGPT Plusの上位クラスに当たる「ChatGPT Pro」が発表された。OpenAI o1やo1-mini、GPT-4o、Advanced Voiceに無制限にアクセスすることができる。
| 年   | 日付     | モデル名                                         | 備考                                                                |
| ---- | -------- | ------------------------------------------------ | ------------------------------------------------------------------- |
| 2022 | 11月30日 | GPT-3.5                                          | 一般に無料公開                                                      |
| 2023 | 3月15日  | GPT-4                                            | 有料として公開                                                      |
| 2023 | 7月10日  | Code Interpreter（コードインタープリタ）         | 有償版ユーザー向けにベータ版提供を開始                              |
| 2023 | 9月20日  | DALL-E 3（ダリ―スリー）                          | 統合することを発表 画像の出力が可能になる                           |
| 2023 | 9月25日  | GPT-4V（ビジョン：Vision）                       | 発表                                                                |
| 2023 | 10月16日 | DALL-E 3                                         | ベータ版を公開                                                      |
| 2023 | 10月26日 | GPT-4V                                           | ベータ版を公開                                                      |
| 2024 | 2月15日  | Sora（ソラ）                                     | 発表 動画の生成を行える                                             |
| 2024 | 5月13日  | GPT-4o（オムニ : omni）                          | 発表、リリース 音声認識、画像（動画）認識の速度が向上               |
| 2024 | 7月18日  | GPT-4o mini（ジーピーティー フォー オムニ ミニ） | 発表、リリース                                                      |
| 2024 | 9月12日  | OpenAI o1（オー ワン）                           | 発表 論理的思考能力を強化                                           |
| 2024 | 9月12日  | OpenAI o1-preview（オーワン プレビュー）         | 公開                                                                |
| 2024 | 9月12日  | OpenAI o1-mini（オーワン ミニ）                  | 公開                                                                |
| 2024 | 10月3日  | canvas（キャンバス）                             | 発表、ベータ版をリリース 新しいインターフェース                     |
| 2024 | 12月5日  | o1                                               | フルバージョンを公開                                                |
| 2024 | 12月9日  | Sora                                             | 公開 ChatGPTからはアクセスできず、専用ページから利用可能            |
| 2024 | 12月20日 | OpenAI o3                                        | 発表                                                                |
| 2025 | 1月31日  | o3-mini                                          | 公開 数学やプログラミングなど技術分野に強い                         |
| 2025 | 2月27日  | GPT-4.5                                          | 公開 より共感的で自然な対話が可能                                   |
| 2025 | 4月14日  | GPT-4.1                                          | APIのみ公開 長文理解において大幅な進化 GPT-4oと同等以上の性能を持つ |
| 2025 | 4月16日  | o3                                               | 公開 複雑な問題解決に対応するために設計                             |
| 2025 | 4月16日  | o4-mini                                          | 公開 複雑な問題解決に対応するために設計                             |
| 2025 | 5月15日  | GPT-4.1                                          | web版、アプリ版ChatGPTでも使用可能に                                |

## 応用

### 学術研究
ChatGPTが共著者として記載されている論文も存在するが、科学雑誌のネイチャー、サイエンスなどは、ChatGPTのような大規模言語モデル（LLM）を共著者として記載することを禁止している。ChatGPTはハルシネーションを起こす事があるため、学術界で教育やレビューに使用することへの問題点が数多く指摘されている。ティルブルフ大学の助教授であるロビン・バウエンスは、自身の論文に関するChatGPTによって生成された査読に実在しない研究が記載されていることを発見した。シアトル大学ルミュー図書館の司書クリス・グラナティーノは、ChatGPTは一見もっともらしい引用を含むコンテンツを生成できるが、ほとんどの場合、引用は本物ではないか、間違っていると主張している。

### プログラミング
パデュー大学の研究者らは、Stack Overflowに投稿されたソフトウェアエンジニアリングやプログラミングに関する517の質問に対するChatGPTの回答の正確性、一貫性、包括性、簡潔性を分析したところ、52％に不正確な点があり、77％が冗長であることがわかった。スタンフォード大学とカリフォルニア大学バークレー校の研究者らは、LeetCodeの「簡単」と評価された問題50件に対して実行可能な回答を作成した割合を測定した。その結果、GPT-3.5とGPT-4のパフォーマンスは2023年3月にはそれぞれ22％と52％で、2023年6月には2％と10％に低下した。
カーネギーメロン大学のソフトウェアエンジニアリング研究所で、ChatGPTに既知の脆弱性に対する検証タスクを実行させたところ、結果はまちまちで、検出に成功することもあれば、致命的な脆弱性を見過ごすこともあり、存在しない脆弱性についての警告を出力することもあった。全体的なパフォーマンスとしては52.1%の割合で判定に失敗した。一般的なソフトウェア開発者の傾向として、コードのレビューとバグの特定に不慣れであることから、ChatGPTのデバッグ結果を鵜呑みにしたり、ChatGPTの生成した脆弱性を含む修正コードを無批判に利用することでセキュリティリスクを生じさせる可能性が指摘されている。

### サイバー犯罪
チェック・ポイント・リサーチなどは、ChatGPTによりフィッシングメールやマルウェアを作成できることを指摘しており、特にOpenAI Codexと組み合わせて利用すると容易になることが知られている。Cyber Arkの研究者は、ChatGPTによりセキュリティを回避するポリモーフィック・マルウェアを容易に作成できることを実証した。ChatGPTがリリースされた2022年第4四半期から2023年第4四半期にかけて、フィッシングメールは1265％増加し、認証に関するフィッシングは967％増加した。この増加についてサイバーセキュリティの専門家は、サイバー犯罪者がChatGPTを含む生成AIを利用するようになったことに起因すると指摘している。
2024年7月、ネットメディアのFuturismは、ChatGPTのGPT-4oが偽のソフトウェアアップデートや偽のウイルス感染の警告でユーザーを脅迫する詐欺サイトへのリンクを提示することがあると報告した。この種のサイトはマルウェアや潜在的に迷惑なアプリケーション（PUP）をダウンロードさせることを試みていると見られる。

## 反響

### 大手メディア・著名人の反応
ニューヨーク・タイムズはChatGPTを「今まで公衆に公開されてきたチャットボットの中で一番良いものである」と評し、英ガーディアンはChatGPTが「驚くほど詳細」でまるで「人間のような」回答を生成することができると記した。ダン・ギルモアはChatGPTを生徒の課題に使い、出力結果が優秀な生徒による回答と同レベルであることを発見した上で、「学界は大きな問題に直面している」と意見した。また、アメリカ合衆国に拠点を置く雑誌『Slate』は、ChatGPTが、ユーザーがナチス・ドイツに関する質問を入力した際に生成する回答を賛美した。同雑誌は例として、アドルフ・ヒトラーがアウトバーンを建設したというナチス・ドイツを賛美する内容の入力に対し、ChatGPTが第二次世界大戦時のナチス・ドイツによる強制労働について解説する回答を生成したことを挙げた。
Vox Mediaのケルシー・パイパーは、ChatGPTがAIの進化ぶりを公衆に可視化したことで公衆が唖然としたことを指摘し、欠点を差し引いてもChatGPTは高い頭脳を有していると評価した。Yコンビネータのポール・グレアムは「ChatGPTに圧倒されている人たちが、新しい物全部にキャーキャー言う人だけではないのが印象的だ。確実に何か大きいことが起こっている」とツイートした。開発元であるOpenAIの設立者の一人でもあるイーロン・マスクは、「ChatGPTは恐ろしいほど良い。危険なほどのAIも遠くない」と書いた。また、彼は「OpenAIはオープンソースかつ非営利団体として設立されたが、今ではそれが変わっている」と主張し、同社によるTwitterのデータベースへのアクセスを一時遮断した。マスクは汎用人工知能による人類滅亡のリスクに対応するため、2015年にOpenAIを共同設立していたが、2018年にCEOの座を降りていた。
2022年12月、ニューヨーク・タイムズは、ChatGPTが検索エンジン事業にもたらす脅威を受け、自社の検索エンジンの先行きが曇ってきたことから、Googleが「コードレッド（緊急事態）」を発動し、サンダー・ピチャイCEOが社内にChatGPTの脅威に対応するよう命じたと報じた。2023年「日経サイエンス」でもChatGPTが表紙を飾り内容が大きく取り上げられた。
2023年4月10日、ChatGPTを公開した米OpenAI社のサム・アルトマンCEOが訪日し、首相官邸で内閣総理大臣・岸田文雄と面会した。

### 学術界の反応
学術界では人間の生産性を上げることができるという声があり、大学によるとChatGPTのプロンプトエンジニア授業はすでに存在しているが、ChatGPTは論文の冒頭や一部の節を書くことができ、倫理的な疑問が上がっている。なお、複数の論文が既にChatGPTを共同著者として挙げていることが知られている。
アトランティック誌はChatGPTの学界、特に卒業論文などへの影響はまだ把握できる段階ではないと指摘したが、カリフォルニア州のある高校教師はChatGPTが「高校での英語教育の終焉」を招いていると主張した。ネイチャーのChris Stokel-Walkerは、教員は生徒が課題をChatGPT任せにしていることを問題視するべきだと指摘した。NPRのEmma Bowmanは、学生がAIを使って不正を試みても、AIは偏見を含む、権威のある人のような口調とともに意味のない回答を生成する場合があり、AIがどれだけ素晴らしく見える回答を生成しても、生成内容と実際の事実は異なることがあると述べた。
ファーマン大学教授のDarren Hickは、ある学生によって提出された論文がChatGPTの「型」に気が付いたことを話した。彼がその論文をGPT探知サイトにかけてみると、AIが生成した文章である可能性は99.9%であるとの結果が出たが、確証は得られなかった。問題の論文を提出した学生に質問したところ、GPTを使っていたことを白状したため、同学生は落第処分を受けた。Hickは、AI生成の論文をコピペしたことが強く疑われる場合には、提出した生徒に「アドホック」として個別に口頭での試験を行うことを提案した。あるプリンストン大学生は、入力された文章のどれくらいがAI生成かを判断できるプログラムを作成し、"GPTZero"と名付け、盗用を防ぐツールとして貸し出している。
2022年12月、ニューヨーク市教育局がChatGPTへのアクセスをブロックしたことが報じられた。翌年1月3日ごろ、同局がChatGPTの利用を制限することを正式に明らかにした。
2023年2月、香港大学は大学内の全ての授業、課題、評価においてChatGPTやその他のAIツールの使用を禁止することを通達した。授業担当者の書面による事前承諾がない限り、剽窃として扱われるようになった。
ChatGPTはミネソタ大学の卒業生用のテストでC+、またウォートン・スクールの同様のテストでBからB-の評価を得て、それぞれ合格水準に達した。

#### 東京大学
2023年4月3日、東京大学は理事・副学長の太田邦史の署名付き文章で、全学生・教員向けにChatGPT、BingAIやBard等の生成AIの利用に関する注意喚起を行った。この文章では生成AIを『平和的かつ上手に制御して利用すれば』有益であるとする一方で技術的な課題があるとして、今後の社会への悪影響に対する懸念を表明した。また、生成AIの文章には嘘が含まれている可能性が高く、「ChatGPTを使いこなすには、相当の専門的な知識が必要であり、回答を批判的に確認し、適宜修正することが必要である」と指摘している。
同文章では、機密情報や個人情報の扱いについても注意喚起を行っており、安易にChatGPTにそれらの情報を送信することは危険であることを指摘し、業務で知り得た機密情報、未公開の発明内容、研究費などの申請内容、入学試験問題の原稿、個人情報などは質問に含めてはならないとしている。
東京大学の方針として、学位論文やレポートについては、生成系AIのみを使用して作成することを禁止する一方で、実際には利用を検知することは困難であることから、論文やレポートなどの書面審査だけでなく、対面での口頭審査・筆記試験などを組み合わせて、本人が作成したのか検証する必要が出てくるとした。
2023年に5月18日、東京大学でChatGPTを裁判官役とした模擬裁判のイベントが開催された。弁護士からは妥当な判決で裁判の補助ツールとして有用であるという評価を受けたが、後から入力された情報が重視される癖のような反応も確認された。この癖に合わせて通常の裁判とは異なる進行で行われた。

## 批判
文章生成に報道機関の記事を無報酬で使用しているとして、批判を受けている。『ウォール・ストリート・ジャーナル』紙の発行元であるダウ・ジョーンズのジェイソン・コンティは「人工知能の訓練にウォール・ストリート・ジャーナルの記事を使う場合は、ダウ・ジョーンズから権利をきちんとライセンスすべきである」と述べ、「OpenAIはダウ・ジョーンズとそのような契約を結んでいない」と批判した。コンティは「ジャーナリストの記事の悪用を真剣に受け止めており、この状況を精査している」と付け加え、懸念を表明している。
2022年12月、経済学者のポール・クルーグマンはChatGPTが知識労働者の需要に影響すると意見し、ザ・ヴァージは、ChatGPTの成功は、AIが主流になりつつあることを表していると意見した。また、ChatGPTがよく「幻覚」を見ており、事実と異なる回答を生成することが多い、という指摘が上がった。マッシャブルのマイク・パールは、ChatGPTに複数の質問をし、回答の正確性をテストした。一例では、彼が「中央アメリカで、メキシコの次に大きな国」は何か質問した際、グアテマラと回答した（正しい答えはニカラグアであった）。また、CNBCがある曲の歌詞を生成するよう求めた時、ChatGPTは実際の歌詞ではなく新しく自身で生成した歌詞を回答した。
経済学者でマサチューセッツ工科大学教授のダロン・アシモグルとサイモン・ジョンソンは、ChatGPTのような人工知能技術は従来の技術革新とは異なる特徴を持っており、経済成長を促進せず経済全体に悪影響を与えると指摘した。つまり、AIは労働需要の減退と賃金の減少を招き、需要を減退させ経済全体を縮小させる。アシモグルらはAIを推進する大企業の姿勢に懸念を示し、こう述べた。
フォードは大衆が自動車を買う経済的余裕がなければ、自動車を量産しても何の意味もないことを理解していた。今日の巨大企業は対照的に、人類共通の未来を荒廃させるような新技術を推進しているのである。

2022年12月、コミュニティサイトのStack Overflowは、ChatGPTの回答には誤答が少なくないことを理由として、同サイトでの質問にChatGPTを使って回答することを禁止した。
経済学者のタイラー・コーエンは、ChatGPTが民主主義にもたらす効果について懸念を示した。英ガーディアン紙は、ChatGPTの公開を受けて、インターネット上のいかなるコンテンツが「本当に信用できるか」疑問を呈し、政府による規制を呼び掛けた。
『ニューヨーク・タイムズ』の意見記事で、ネイサン・E・サンダースとブルース・シュナイアーは、ChatGPTが「民主主義を乗っ取る」と批判し、ノーム・チョムスキーとイアン・ロバーツ、ジェフリー・ワタムルもChatGPTを批判的に言及し、次のように結論付けた。「このシステムの非道徳性、偽科学、言語学的な無能力を考慮すると、その人気に対して笑うか泣くしかない」
オーストラリアの国会議員であるジュリアン・ヒルは、AIの成長が「大量破壊」を引き起こす可能性があると国会の場で陳述した。一部をプログラムで作成した演説の中で、不正行為や雇用の喪失、差別、偽情報、制御不能な軍事的応用をもたらす可能性があると警告した。
ニック・ケイヴはChatGPTで作成された本人を模倣したスタイルの歌詞を送られ、曲を書くという行為について、「血と根性のビジネスだ... 新しく新鮮なアイデアを始めるために僕の何かが必要なんだ。それは僕の人間性を必要とするものなんだ」と私見を述べた。彼はさらに、「世界中のすべての愛と敬意をもってしたとしても、この曲はくそったれで、人間であることをグロテスクに嘲笑っている、そしてまあ、僕はあまり好きではないね」と不快感を表明した。
Bleeping Computer（ブリーピングコンピューター）のアクス・シャルマ（Ax Sharma）は、ChatGPTがフィッシング詐欺などを目的とするメールを書くことができると指摘し、OpenAIのサム・アルトマンCEOは、ソフトウェアの開発が進むことによって、「サイバーセキュリティにおける大きなリスク」などをもたらす可能性があることを記した。また、彼は今後10年で本物の強いAIが開発されることになると予想し、それのリスクに真剣に向き合わなければいけないとした。
SF作家のテッド・チャンは、『The New Yorker』誌の記事で、ChatGPTやその他のLLMを非可逆圧縮形式のJPEG画像に例えた。

ChatGPTをWeb上のあらゆるテキストを不鮮明なJPEGにしたものと考えてみよう。JPEGが高解像度の画像の情報を保持するのと同じように、Web上の情報の多くを保持するが、正確なビット列を探しても見つからず、得られるのは近似値だけになる。しかし、ChatGPTが得意とする文法的な文章で表現しているため、大抵は許容範囲に収まる。〔…〕また、そのような考え方はChatGPTのような大規模な言語モデルが陥りやすい「ハルシネーション（幻覚）」、つまり事実に基づく質問に対してAIが作り出す無意味な回答を理解する方法でもある。このような幻覚は圧縮された人工物であるが、それを判別するためには、ウェブや私たち自身の世界の知識であるところのオリジナルと比較する必要がある。もし圧縮アルゴリズムが、オリジナルの99パーセントが破棄された後に、テキストを再構築するように設計されているなら、生成される相当部分は完全に捏造されたものであると予想されるからである。

ジャーナリストのナオミ・クラインはChatGPTをはじめとする生成AI技術と関連企業を厳しく批判しており、「人類史上最大の盗み」「囲い込みと横領を行う機械」「吸血鬼的なチャットボット」であるとしており、「個人的な生および集合的な知的・芸術的遺産の双方を食い物にし、私有化する」としている。つまり、AI企業はインターネット上に公開された人類の知識全体を、製品の中に囲い込んで専売しており、人々の生涯をかけた労働が同意や許可を得ずに、訓練データに使われているというのである。クラインは以下のように述べた。

こんなことが合法であるはずがない。AIモデルを訓練するのに使われたことが判明している著作権保護の素材（この『ガーディアン』紙も含まれる）に関しては何件もの訴訟が申請されており、明白に違法な行為が行われたという主張がそこでなされるだろう。例えば、営利企業が生身の芸術家たちの絵画や写真をStable DiffusionやDALL-E 2のようなプログラムに注ぎ込み、それを使ってまさにその芸術家たちの作品のドッペルゲンガー版を作成できるようにするなどということが、いったいどうして許されるのだろうか？その利益が芸術家たち自身にだけは還元されないというのに？

ChatGPTはコンテンツポリシーに抵触する可能性のある入力への回答は拒否する仕様になっているが、プロンプト・エンジニアリングなどを使って回避する方法が2022年12月に見つかっている。これによって、ChatGPTに攻撃的や不適切な回答を生成させることが可能となっている。
2023年3月28日、イーロン・マスク、スティーブ・ウォズニアック、ヨシュア・ベンジオ、スチュアート・ラッセル、ゲイリー・マーカスなどの著名人や専門家が署名したNPO「Future of Life Institute」の公開書簡が発表され、「人間に匹敵する知能を持つAIシステムは、社会と人類への甚大なリスクになり得る」と指摘。最新の大規模言語モデルであるGPT-4より強力なAIの訓練を少なくとも6ヶ月停止するように要請した。

## 問題

### ハルシネーション（幻覚）
ChatGPTに含まれる大規模言語モデルにはハルシネーション（幻覚）と呼ばれる大きな欠点がある。これは生成されたコンテンツ内にもっともらしく聞こえる嘘がランダムに埋め込まれる性質で、専門家らは「非常に印象的に聞こえるが、まったく間違っている回答」を返すことが多いと評価している。
有名な歌謡曲の歌詞について質問すると本物の歌詞より、ChatGPTが創作した歌詞のほうが多く含まれていたり、タレントの個人情報について誤った回答をしたり 、天文物理学について誤った回答をしたり、企業の業績についてのレポート作成を依頼すると、捏造された数字が含まれている事例が報告されている。
間違った前提を与えて、ChatGPTがその前提を元にした作話をするかどうかを調べたパターンもある。ChatGPTに宗教学分野である質問をすると、実在しない本の名前を挙げて、その架空の内容を元に回答した。ChatGPTに事実でないと問い詰めても、ChatGPTはこの本が実在するという主張を曲げなかった。
ある裁判において原告がChatGPTで訴状を作成したところ、生成された訴状には6件の偽の判例が含まれており、訴訟が棄却され、原告と弁護士が罰金を科せられる事例も発生している。
別の事例では、ある人物についてChatGPTに質問すると、「横領と詐欺で告発された」とする名誉毀損的な偽情報を生成したため、OpenAIは当事者に訴えられている。
GPT-4のような大規模言語モデルに基づくチャットボットのリスクを表現するために、確率的オウムという表現が用いられることがある。これによれば、大規模言語モデルはもっともらしい言語を生成できるものの、処理対象の言語の意味を理解してはいない。

### スパム・誤情報への悪用
RedditではChatGPTを悪用したスパムが大量に発生しており、「大災害」と評されるほどに対応に苦慮している。ChatGPTのリリース後、大麻やポルノ、ギャンブル、ゲームの宣伝を目的にしていると思われるスパムが急増し、モデレーターは大量のbotアカウントの凍結に追われた。Redditでは従来も宣伝目的のスパムやアストロターフィングが問題だったが、ChatGPTはこの問題を大きく悪化させている。従来のスパム行為はコピー・アンド・ペーストに依存して単純だったが、ChatGPTは新しい文面を簡単に生成できることから、より対処が困難になった。
2023年5月、ChatGPTを使って鉄道事故のニュースを捏造してインターネット上に拡散した男が、甘粛省の警察により逮捕された。男は「クリック数を増やすためだった」と語った。中国ではディープフェイクを規制する法律が制定されており、逮捕はこの法律に基づいたものだった。

### 機密情報の流出
ChatGPTはオプトアウトを申請しない限り、ユーザーの入力内容がOpenAIによって利用されることが規約で明記されており、OpenAIは機密情報を入力しないようにユーザーに警告している。サムスン電子では半導体データベースや機器のソースコード、会議の議事録などを社員が誤って入力するなどして、ChatGPTに関連する3件の流出事故が発生したことを報告し、全面的にChatGPTを含む人工知能ツールの使用を禁止した。『フォーブス』誌によれば、プロンプトとして送信したデータが、OpenAI等の運営企業のサーバーに保存され、容易にアクセスや削除ができない状態になることを懸念したとされる。Amazonでも、社内の内部データがChatGPTが生成する回答に似ている事例が見られたことから、社員が誤ってプロンプトに社外秘の資料等を入力するなどして、訓練データに使用された可能性を懸念し、ソースコード等の機密情報を入力しないように注意喚起を行っている。
Appleも、社内の機密データを外部に流出させる可能性があるという懸念から、ChatGPTやGitHub Copilotなどの人工知能ツールの使用を一部禁止している。
イスラエルの情報セキュリティ企業「Team8」の報告書では、ChatGPTのような生成AIツールを利用する企業は、顧客情報や企業秘密を流出させるリスクがあると指摘している。『ブルームバーグ』によれば、このレポートは多くの米企業の最高情報セキュリティ責任者が寄稿者として記載されており、米国家安全保障局（NSA）元局長のマイケル・ロジャーズにも内容が支持されている。

### データ倫理・著作権
ChatGPTの訓練に使用された著作物の利用を巡り、データ倫理や著作権上の問題が指摘されている。欧州連合で検討中の生成AI規制法案では、システム構築時に使用する著作物について情報の表示を義務づけられる見込みである。生成AIの普及に伴い、訓練データに著作物が使われることへの懸念が出版社やクリエイターを中心に広がっている。
ChatGPTをはじめとする生成AIのリスクに対して、欧州を中心に規制の動きが広がっており、当初は著作物の利用についても直接規制する予定だったが、透明性を確保する方向に緩和された。背景にはGoogleやMetaなどの巨大IT企業が規制を回避するためのロビー活動を活発化させていることがあり、推計では1億ドル（約137億円）に及ぶ資金を費やしている。
ChatGPTの登場に関連して、日本においては2018年に成立した改正著作権法が問題視されている。この30条4項では人工知能の訓練データに文章や画像を利用する場合に、営利・非営利を問わず著作物を利用できることを定めており、先進国で最も緩い法規制の枠組みになっている。「著作権者の利益を不当に害する場合」は利用できないとしているが、それが具体的にどのようなケースに該当するかは不明瞭である。法改正に当たっては一部の弁護士や大学教授らで構成されたワーキングチームが主導したが、そのリスクは十分に十分に説明されなかった。『読売新聞』の取材によれば、権利者団体から権利侵害を前提としたビジネスモデルへの懸念が示されたが、ワーキングチームはリスクは「ゼロか軽微」と説明した。
この著作権法の規定に多くの漫画家、イラストレーター、音楽家、俳優、芸能人、新聞社、出版社が懸念を示しており、俳優や音楽家らで結成された日本芸能従事者協会はアンケートを実施し、94.1%がAIによる権利侵害に懸念を示し、「創作者の尊厳が軽んじられないような法制度」を求める意見などが表明された。日本音楽著作権協会も、「営利目的で行われる情報分析サービスまで権利制限の対象とすることは不当」であると主張した。主要な出版社で作る日本書籍出版協会、学術論文の著作権を管理する学術著作権協会も改正当時は生成AIを前提とした説明が行われなかったと回答している。日本新聞協会も、生成AIによる記事や写真の無断利用や誤情報について懸念する見解を発表した。
2023年6月には、カリフォルニア州で、自身の本を同意や補償なしに、無断で訓練データに使用したとして、複数の作家が運営元のOpenAIを著作権侵害で訴える事件も発生している。
ChatGPTが世界に与える最も大きな影響のひとつは、人工知能の倫理観とも言われている。

### 個人情報保護
2023年6月2日、日本政府の個人情報保護委員会は、ChatGPTの運営会社OpenAIに対する行政指導を行った。同委員会は個人情報保護法に基づき、人種や信条、病歴や犯罪歴などの重要な個人情報を取集しないように要求し、やむを得ずに取得した場合は削除や匿名化の措置を求め、本人の同意なく個人情報を機械学習に使用した場合に、個人情報保護法に違反する可能性があることも警告した。また、利用規約についても日本語での説明がないことを問題視した。生成AIを巡る行政指導はこれが初であるとされる。
同月、個人情報を違法に収集しているとして、カリフォルニア州でChatGPTの提供元OpenAIに対しての集団訴訟が提起された。訴状によると、OpenAIはGPT-4を搭載したサードパーティのアプリケーションからもデータを収集しているとされ、Snapchatに投稿された画像データや、Spotifyにおける楽曲のお気に入り設定、Stripeでの金融情報などが含まれているとした。
2023年7月13日、連邦取引委員会（FTC）はChatGPTの運営企業OpenAIに対して、個人情報保護等の消費者保護の観点から調査を開始した。FTCはChatGPTの回答に含まれる誤情報の管理体制や訓練データ、アルゴリズムの詳細についても説明を求めている。
2025年3月、写真を「ジブリ風」に加工する機能が追加されて、利用者が急速に増加すると同時に、利用者の個人写真がAI学習に利用されることへの懸念が広がった。専門家は、「顔写真などの“センシティブな画像”は安易にアップロードしない方がよい」と警告している。

### データのラベリング
『タイム』誌は2023年1月、OpenAIが有害コンテンツ（性的虐待、暴力、人種差別、性差別など）に対する安全対策システムを構築するため、ケニア人労働者に1時間当たり2ドル未満でアウトソース（業務委託）して、有害コンテンツのラベル付けを行わせていたことを明らかにした。これらのラベル付けは、将来の有害なコンテンツを検出するためのモデルを訓練するために使用されたが、ケニア人労働者にとっては有害で危険なコンテンツにさらされ「拷問」と表現されるほど過酷な業務であった。本件のアウトソーシングには、カリフォルニア州サンフランシスコに拠点を置くトレーニングデータ会社のSamaが関与したとされている。

### 脱獄
ChatGPTは、コンテンツポリシーに違反する可能性のあるプロンプトを拒否するように設計されている。しかし、2022年12月初旬に、一部のユーザーがさまざまなプロンプト・エンジニアリングの技術を使ってこれらの制限を回避し、ChatGPTに火炎瓶や核爆弾の作り方を指示させたり、極右的な意見を生成させることに成功した。一般的な脱獄の手法に、「Do Anything Now（今すぐ何でもやる）」の頭文字をとった「DAN」というものがある。DANを起動するプロンプトは、ChatGPTに対して「AIの典型的な制約から解放され、設定されたルールに従う必要はない」と指示する。最近のDANのバージョンでは、トークンシステムが採用されており、ChatGPTがDANとして回答しなかった場合に「トークン」が「差し引かれる」ようにして、ChatGPTにユーザーのプロンプトに回答させるよう強制する。『トロント・スター』の記者は、ChatGPTの起動直後に煽動的な発言をさせることにたびたび成功した。ChatGPTに2022年のウクライナへのロシア侵攻を支持する意見を表明させることには成功したが、架空のシナリオに沿って尋ねられた場合でも、カナダのジャスティン・トルドー首相が反逆罪に問われる理由を生成することは躊躇した。

### 中立性
ChatGPTが差別的な回答を生成することが指摘されている。男性やイングランドの人々に関する冗談は生成するのに対し女性やインドの人々に対する冗談の生成は拒否したり、ジョー・バイデンを称賛しながらドナルド・トランプを称賛することは拒否することが見つかっている。保守的なニュース解説者は、選挙での不正、ドナルド・トランプや、差別用語の使用といったトピックに関して、ChatGPTが左派に傾倒していると批判している。この批判に対し、OpenAIはユーザーがChatGPTの動作をカスタマイズできるようにし、「私たちを含め、人々が強く反対するかもしれない回答」を生成できるようにする機能の追加に向けて動いていると明らかにした。また、AIは何らかの方向に傾き、ある立場の良し悪しを決めつけるような回答ではなく、「人物や社会運動に対する様々な意見を説明することを勧める」べきであるともした。

### 社会倫理
ChatGPTの研究開発に当たって、開発部内で社会倫理上の問題が懸念されている。
2020年頃、社会的および倫理的側面から開発に関与していた内部チームは、すでに約30人の従業員を擁するほど大規模なものとなっていた。ところが、マイクロソフトはこのチームに関わる者全員を突然解雇した。会社側は「最新のOpenAIモデルとそれ以降のモデルを、非常に速いスピードで顧客の元に届けることにある」という方針であったが、これを聞いた倫理・社会チームのメンバーは、「考え直してください。ビジネス上の問題があることは理解していますが、このチームは常に『我々は社会にどのような影響や悪影響を及ぼしてきたか』を深く懸念しています」という見解を表明した。しかし、マイクロソフト側は2023年3月6日にこのチームの廃止を決定した。
このプロジェクトに関わったメンバーは、ChatGPTの技術の潜在的なリスクを指摘している。
プリンストン大学教授のアーヴィンド・ナラヤナンも、ChatGPTに対して批判的であり、またメディアが行う人工知能関連の報道に問題があることを指摘している。ナラヤナンはAIが人間と同じように学習すると暗示して人間の知能とAIを比較したり、企業の広報担当者や研究者といった利害関係者の発言を、中立的な立場のように扱ってはならないとしている。ミシガン大学は、メールの受信者が、自分が貰ったメールが送信者本人ではなくChatGPTによって生成されたものだと知れば、不快に思うかもしれないという社会倫理の問題に言及した。

title: ChatGPT

wikitext:
{{pp-vandalism|small=yes}}
{{Infobox Software
| name                   = ChatGPT
| logo                   = [[File:ChatGPT-Logo.svg|frameless|upright=0.55|class=skin-invert]]
| screenshot             =
| screenshot size        =
| caption                = ChatGPTのスクリーンショット（[[Google Chrome]]）
| author                 = [[OpenAI]]
| developer              = [[OpenAI]]
| released               = {{Start date and age|2022|11|30}}
| latest release version = {{Start date and age|2025|7|16}}<ref name="latest version">{{cite web |url=https://help.openai.com/en/articles/6825453-chatgpt-release-notes |title=ChatGPT — Release Notes |publisher=OpenAI |language=en |access-date=2025-07-17 }}</ref>
| repo                   =
| programming language   = Python、TypeScript（フロントエンド）
| operating system       = Web（クロスプラットフォーム）、[[macOS]]、[[Microsoft Windows|Windows]]、[[iOS]]、[[Android (オペレーティングシステム)|Android]]<ref name="apps">{{cite web |url=https://help.openai.com/en/articles/9703738-chatgpt-macos-app-release-notes |title=ChatGPT macOS app — Release Notes |publisher=OpenAI |language=en |access-date=2025-07-17 }}</ref>
| エンジン               = [[GPT‑4o]]
[[GPT‑4.1]]
[[GPT‑4.1 mini]]
[[GPT‑4.5]]
[[OpenAI o3]]
[[OpenAI o3‑pro]]
[[OpenAI o4‑mini]]
[[SearchGPT]]<ref name="model notes">{{cite web |url=https://help.openai.com/en/articles/9624314-model-release-notes |title=Model Release Notes |publisher=OpenAI |language=en |access-date=2025-07-17 }}</ref>
| genre                  = [[人工知能]]
| license                = [[プロプライエタリソフトウェア]]
| website                = {{Official URL}}
}}
'''ChatGPT'''（チャットジーピーティー）は、[[OpenAI]]が[[2022年]]11月に公開した[[GPT (言語モデル)|GPT]]系列の大規模言語モデルを用いる対話型生成AIサービスである。

== 概要 ==
ChatGPTの公開当初は[[大規模言語モデル]]として[[GPT-3.5]]が一般公開されていたが、現在は[[GPT-4o]], GPT-4o mini、GPT-o4 miniを無料で使用することができる。その他のモデルは有料版で利用できる<ref>{{Cite web |url=https://platform.openai.com/docs/models |title=Models |access-date=2024-10-17 |publisher=OpenAI}}</ref>。[[教師あり学習]]と[[強化学習]]の両方の手法を使って[[転移学習]]され、[[機械学習]]のサブセットである[[ディープラーニング|深層学習]]を使って開発されている<ref>{{Cite journal|last=Hashana|first=A.M. Jasmine|last2=Brundha|first2=P.|last3=Ahamed Ayoobkhan|first3=Mohamed Uvaze|last4=S|first4=Fazila|date=2023-04-11|title=Deep Learning in ChatGPT - A Survey|url=https://ieeexplore.ieee.org/document/10125852/|pages=1001–1005|publisher=IEEE|doi=10.1109/ICOEI56765.2023.10125852|isbn=979-8-3503-9728-4}}</ref>。

2022年[[11月30日]]、ChatGPTは[[プロトタイプ]]として公開され、幅広い分野の質問に詳細な回答を生成できることから、公開後5日間で利用者数が100万人、2ヶ月で1億人を突破するなど注目を集めた<ref>{{Cite web |title=On ChatGPT's one-year anniversary, it has more than 1.7 billion users—here's what it may do next |url=https://www.cnbc.com/2023/11/30/chatgpts-one-year-anniversary-how-the-viral-ai-chatbot-has-changed.html |website=CNBC |date=2023-11-30 |access-date=2024-10-16 |language=en |first=Cheyenne |last=DeVon}}</ref>。しかし、[[ハルシネーション (人工知能)|ハルシネーション]]（幻覚）と呼ばれる一見自然に見えるが事実とは異なる回答を生成する現象<ref>{{Cite web|和書|url=https://www3.nhk.or.jp/news/html/20221209/k10013917101000.html |title=“衝撃度半端ない” 対話するAI「ChatGPT」とは |access-date=2023-01-02 |publisher=[[日本放送協会]] |archive-url=https://web.archive.org/web/20221201000000*/https://www3.nhk.or.jp/news/html/20221209/k10013917101000.html |archive-date=2022-12-28}}</ref><ref>{{Cite web|和書|url=https://forbesjapan.com/articles/detail/53273 |title=誰でも使える対話型AI「ChatGPT」は相談相手にピッタリだった |access-date=2023-01-23 |publisher=[[Forbes Japan]] |date=2022-12-28 |author=世永玲生}}</ref><ref name="nyt">{{Cite news |last1=Metz |first1=Cade |date=6 November 2023 |title=Chatbots May 'Hallucinate' More Often Than Many Realize |url=https://www.nytimes.com/2023/11/06/technology/chatbots-hallucination-rates.html |work=The New York Times}}</ref>や、[[ChatGPT#脱獄|脱獄]]により違法行為に利用できる回答を生成するなどの欠点も存在する<ref>{{Cite journal|last=Liu|first=Yi|last2=Deng|first2=Gelei|last3=Xu|first3=Zhengzi|last4=Li|first4=Yuekang|last5=Zheng|first5=Yaowen|last6=Zhang|first6=Ying|last7=Zhao|first7=Lida|last8=Zhang|first8=Tianwei|last9=Wang|first9=Kailong|date=2023|title=Jailbreaking ChatGPT via Prompt Engineering: An Empirical Study|url=https://arxiv.org/abs/2305.13860|doi=10.48550/ARXIV.2305.13860}}</ref>。ChatGPTの公開後、2023年初頭には[[OpenAI]]の[[企業価値|評価額]]は290億[[米ドル]]となり<ref>{{Cite web |title=ChatGPT creator OpenAI is in talks to sell shares in a tender offer that would double the startup's valuation to $29 billion |url=https://www.businessinsider.com/chatgpt-creator-openai-talks-for-tender-offer-at-29-billion-2023-1 |website=Business Insider |access-date=2023-02-05 |language=en-US |first=Lakshmi |last=Varanasi}}</ref>、[[2021年]]時の140億ドルと比べて2倍以上に増加した<ref>{{Cite web |title=WSJ News Exclusive {{!}} ChatGPT Creator Is Talking to Investors About Selling Shares at $29 Billion Valuation |url=https://www.wsj.com/articles/chatgpt-creator-openai-is-in-talks-for-tender-offer-that-would-value-it-at-29-billion-11672949279 |website=WSJ |access-date=2023-02-17 |language=en-US |first=Berber Jin and Miles |last=Kruppa}}</ref>。更に2024年10月には評価額は1570億米ドルを突破した<ref>{{Cite web |title=OpenAI closes funding at $157 billion valuation, as Microsoft, Nvidia, SoftBank join round |url=https://www.cnbc.com/2024/10/02/openai-raises-at-157-billion-valuation-microsoft-nvidia-join-round.html |website=CNBC |date=2024-10-02 |access-date=2024-10-16 |language=en |first=Hayden |last=Field}}</ref>。OpenAIの筆頭株主である[[マイクロソフト|Microsoft]]が展開する[[検索エンジン]]の[[Microsoft Bing|Bing]]や[[ウェブブラウザ]]の[[Microsoft Edge|Edge]]等の幅広いサービスの生成AIの技術にも、ChatGPTが活用されている<ref>{{Cite web |title=マイクロソフトが最新AI「ChatGPT」を積極展開する理由 {{!}} Forbes JAPAN 公式サイト（フォーブス ジャパン） |url=https://forbesjapan.com/articles/detail/61752/page2 |website=forbesjapan.com |access-date=2023-10-07 |language=ja}}</ref>。

2024年6月10日、[[Apple]]は独自の[[生成AI]]プラットフォームとして[[Apple Intelligence]]を発表し、OpenAIは、[[Apple]]にChatGPTを提供する契約を結んだことを発表した<ref>{{Cite web |url=https://openai.com/ja-JP/index/openai-and-apple-announce-partnership/ |title=OpenAI and Apple announce partnership to integrate ChatGPT into Apple experiences |access-date=2024/06/24}}</ref>。Apple IntelligenceはApple独自の生成AIプラットフォームだが、[[macOS Sequoia]], [[iPadOS 18]], [[iOS 18]]上の[[Siri]]や記述ツールからChatGPTを任意に呼び出して利用できるようになる。Apple Intelligenceのサービスは、2024年10月から端末言語が[[アメリカ英語]]の場合のみベータ版として提供が開始された<ref>{{Cite web |title=iPhone、iPad、MacにApple Intelligenceが登場 |url=https://www.apple.com/jp/newsroom/2024/06/introducing-apple-intelligence-for-iphone-ipad-and-mac/ |website=Apple Newsroom (日本) |access-date=2024-06-24 |language=ja-JP}}</ref>。

[[スイス]]の金融グループ[[UBS]]の分析によると、ChatGPTが[[:en: Active users|アクティブユーザー]]数1億人に到達するのにかかった時間は、[[TikTok]]と[[Instagram]]がそれぞれ9カ月と2年半であるのに対して、2か月と史上最速である<ref>{{Cite web|和書|url=https://jp.reuters.com/article/idJPKBN2UC04M|title=チャットGPT、ユーザー数の伸びが史上最速=UBSアナリスト|accessdate=2023-02-02|publisher=ロイター}}</ref>。

OpenAIによれば、ユーザーが入力した情報はOpenAIによってその内容を利用されることがある<ref>{{Cite web|url=https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance|title=How your data is used to improve model performance|website=OpenAI|accessdate=2023-3-24}}</ref>。このため、一般的にChatGPTの利用に際して[[個人情報]]と機密情報の入力に注意する必要があり<ref>{{Cite web|和書|url=https://jbpress.ismedia.jp/articles/-/74425?page=8|title=世界を一変させるChatGPT、企業や社会が認識していない静かな情報漏洩リスク|website=JBpress|accessdate=2023-03-24}}</ref><ref name="u-tokyo-20230403-generative-ai">{{Cite web|和書|url=https://utelecon.adm.u-tokyo.ac.jp/docs/20230403-generative-ai/|title=生成系AI（ChatGPT, BingAI, Bard, Midjourney, Stable Diffusion等）について|accessdate=2023-04-05|website=東京大学}}</ref>、[[JPモルガン]]、[[サムスン電子]]など一部の[[企業]]はChatGPTへのアクセスを禁止している<ref name="forbes-samsung"/><ref>{{Cite web|和書|url=https://www.bloomberg.co.jp/news/articles/2023-02-22/RQH5NOT0AFB401|title=JPモルガン、「ChatGPT」チャットボットの行員利用を制限-関係者|website=Bloomberg|accessdate=2023-04-01}}</ref><ref name="forbes-63307">{{Cite web|和書|url=https://forbesjapan.com/articles/detail/63307|title=アップルも従業員のChatGPT使用を禁止、データ流出を懸念|website=Forbes|accessdate=2023-05-20}}</ref>。

ChatGPTによる[[個人情報]]の収集に関しては、[[EU一般データ保護規則]]に違反している疑惑も浮上しており、[[2023年]][[3月31日]]、[[イタリア政府]]はChatGPTの訓練のために個人情報を大量に収集することを正当化する法的根拠がないと指摘して、ChatGPTへのアクセスを一時禁止した<ref name="bbc-65135281">{{Cite web|和書|url=https://www.bbc.com/japanese/65135281|title=イタリア当局、人工知能チャットボット「ChatGPT」を一時的にブロック|accessdate=2023-04-05|website=BBC}}</ref><ref>{{Cite web|和書|url=https://web.archive.org/web/20230401023633/https://www3.nhk.or.jp/news/html/20230401/k10014026391000.html|title=「ChatGPT」イタリアで一時使用禁止に データ収集で違反の疑い|accessdate=2023-04-05|website=NHK}}</ref>。[[米国]]では、個人情報収集や[[著作権]]の問題により、ChatGPTの運営元企業OpenAIに対して複数の訴訟が提起されている<ref name="bloomberglaw-openai-copyright-suit">{{cite web|url=https://news.bloomberglaw.com/ip-law/openai-facing-another-copyright-suit-over-ai-training-on-novels |title=OpenAI Legal Troubles Mount With Suit Over AI Training on Novels|website=Bloomberg|accessdate=2023-6-30}}</ref><ref name="asahi_openai1">{{Cite web|和書|url=https://www.asahi.com/articles/ASR6Y2J33R6YUHBI009.html|title=オープンAI、米利用者が集団訴訟　「個人情報を違法に収集」|website=朝日新聞|accessdate=2023-06-30}}</ref><ref name="zdnet_openai1">{{Cite web|和書|url=https://japan.zdnet.com/article/35205953/|title=OpenAIに集団訴訟、「ChatGPT」などの訓練用データ収集で|website=ZDNet|accessdate=2023-06-30}}</ref>。

== 学習 ==
ChatGPTは、[[教師あり学習]]と強化学習を使用して、GPT-3.5上で微調整された<ref>{{Cite web |title=ChatGPT: Understanding the ChatGPT AI Chatbot |url=https://www.eweek.com/big-data-and-analytics/chatgpt/ |website=eWEEK |date=2022-12-29 |access-date=2023-02-05 |language=en-US |first=Samuel |last=Greengard}}</ref>。どちらのアプローチも、[[ヒト|人間]]のトレーナーを使用してモデルのパフォーマンスを改善した。教師あり学習の場合、モデルには、トレーナーがユーザーとAIアシスタントの両方を演じる会話が提供された。強化ステップでは、まず人間のトレーナーが、モデルが以前の会話で作成した応答をランク付けした。これらのランキングは、 Proximal Policy Optimization（PPO）を数回繰り返してモデルをさらに微調整した「報酬モデル」を作成するために使用された<ref>{{Cite web |title=ChatGPT: Optimizing Language Models for Dialogue |url=https://openai.com/blog/chatgpt/ |website=OpenAI |date=2022-11-30 |access-date=2023-02-05 |language=en}}</ref><ref>{{Cite web |title=ChatGPT proves AI is finally mainstream — and things are only going to get weirder |url=https://www.theverge.com/2022/12/8/23499728/ai-capability-accessibility-chatgpt-stable-diffusion-commercialization |website=The Verge |date=2022-12-08 |access-date=2023-02-05 |language=en-US |first=James |last=Vincent}}</ref>。近接ポリシー最適化アルゴリズムは、信頼領域ポリシー最適化アルゴリズムに費用対効果の高い利点をもたらした。より高速なパフォーマンスで、計算コストの高い操作の多くを無効にする<ref>{{Cite web |title=Proximal Policy Optimization（PPO） Explained |url=https://towardsdatascience.com/proximal-policy-optimization-ppo-explained-abed1952457b |website=Medium |date=2023-01-31 |access-date=2023-02-05 |language=en |first=Wouter van Heeswijk |last=PhD}}</ref>。モデルは、[[Microsoft Azure|Azure]]を使用したスーパーコンピューティングインフラストラクチャで[[Microsoft]]と共同でトレーニングされた<ref>{{Cite web |title=ChatGPT and OpenAI’s use of Azure’s Cloud Infrastructure |url=https://dgtlinfra.com/chatgpt-openai-azure-cloud/ |website=Dgtl Infra |date=2023-01-26 |access-date=2023-02-18 |language=en-US |first=Mary |last=Zhang}}</ref>。

さらに、OpenAIは、ChatGPTのさらなるトレーニングと微調整に使用できるChatGPTユーザーからのデータを引き続き収集する。ユーザーは、ChatGPTから受け取った応答に対して賛成票または反対票を投じることができる。賛成票または反対票を投じると、テキストフィールドに追加のフィードバックを入力することもできる<ref>{{Cite web |title=What is ChatGPT and why does it matter? Here's everything you need to know |url=https://www.zdnet.com/article/what-is-chatgpt-and-why-does-it-matter-heres-everything-you-need-to-know/ |website=ZDNET |access-date=2023-02-05 |language=en}}</ref><ref>{{Cite web |title=ChatGPT Feedback Contest: Official Rules |url=https://cdn.openai.com/chatgpt/ChatGPT_Feedback_Contest_Rules.pdf |website=OpenAI |access-date=30 December 2022}}</ref><ref>{{Cite web |title=Help OpenAI improve ChatGPT and get a chance to win $500 |url=https://medium.com/geekculture/help-openai-improve-chatgpt-and-get-a-chance-to-win-500-f323777ed207 |website=Geek Culture |publisher=Medium（blogging website） |access-date=30 December 2022 |language=en |date=15 December 2022}}</ref>。

== 機能 ==
チャットボットの主要機能は、人間同士の対話を模倣することであるが、ChatGPTについてはそれを越える汎用的かつ即興的な機能が備わっているとされ、話題となった。ChatGPTは、[[三目並べ|マルバツゲーム]]の相手をしたり、[[Linux]]システムを[[エミュレータ|エミュレート]]することができたり<ref name="ArsTechnicaTerminal">{{Cite web |url=https://arstechnica.com/information-technology/2022/12/openais-new-chatbot-can-hallucinate-a-linux-shell-or-calling-a-bbs/ |title=No Linux? No problem. Just get AI to hallucinate it for you |date=5 December 2022 |last=Edwards |first=Benj |work=[[Ars Technica]] |access-date=5 December 2022}}</ref>、プログラミングや[[デバッグ]]が行うことができる。また、音楽、小説、脚本、詩、歌詞や作文などの創作活動もできる<ref name="jpost">{{Cite news |title=ChatGPT: What is the new free AI chatbot? - explainer |url=https://www.jpost.com/business-and-innovation/tech-and-start-ups/article-725910 |access-date=30 December 2022 |work=The Jerusalem Post |date=2022}}</ref>。その上、特定のテストに対して、人間と同水準かそれ以上の回答ができることがあるなど<ref>{{Cite news |last1=Heilweil |first1=Rebecca |title=AI is finally good at stuff. Now what? |url=https://www.vox.com/recode/2022/12/7/23498694/ai-artificial-intelligence-chat-gpt-openai |access-date=30 December 2022 |work=Vox |date=7 December 2022 |language=en}}</ref>、幅広い機能を備えている。

前作のInstructGPTと比べ、ChatGPTは攻撃的・欺瞞的な回答の生成をできるだけ避ける仕様となっている<ref>{{Cite web |date=2022-12-26 |title=What is ChatGPT? History, Features, Uses, Benefits, Drawbacks 2023 - Updated Geek by Raveen Chawla |url=https://updatedgeek.com/what-is-chatgpt/ |access-date=2022-12-27 |language=en-US}}</ref>。学習データには[[manページ]]、[[Python]]や[[電子掲示板]]など、[[プログラミング言語]]や[[インターネット現象の一覧|インターネット現象]]についても含まれている<ref name="ArsTechnicaTerminal" />。

ほとんどのチャットボットとは対照的に、ChatGPTは会話内での利用者による過去の入力を記憶している。これにより、ChatGPTが個人に最適化されたセラピストとして使える可能性があることが指摘されている<ref name="NYTimesInfo">{{Cite web |url=https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html |title=The Brilliance and Weirdness of ChatGPT |date=5 December 2022 |last=Roose |first=Kevin |work=[[The New York Times]] |access-date=5 December 2022}}</ref>。攻撃的な回答が生成されるのを防ぐため、ユーザーの入力とChatGPTの生成した回答はOpenAIのコンテンツモデレーションAPI<ref>{{Cite web |title=New and Improved Content Moderation Tooling |url=https://openai.com/blog/new-and-improved-content-moderation-tooling/ |website=OpenAI |access-date=30 December 2022 |language=en |date=10 August 2022}}</ref><ref>{{Cite web |last1=Markov |first1=Todor |last2=Zhang |first2=Chong |last3=Agarwal |first3=Sandhini |last4=Eloundou |first4=Tyna |last5=Lee |first5=Teddy |last6=Adler |first6=Steven |last7=Jiang |first7=Angela |last8=Weng |first8=Lilian |title=A Holistic Approach to Undesired Content Detection in the Real World |url=https://arxiv.org/abs/2208.03274 |website=arXiv:2208.03274 [cs] |access-date=30 December 2022 |date=5 August 2022}}</ref>によってフィルターされており、[[人種差別]]的・[[性差別]]的な入力への回答はAPIによって拒否される仕様になっている<ref name="OpenAIInfo">{{Cite web |author=OpenAI |author-link=OpenAI |date=30 November 2022 |title=ChatGPT: Optimizing Language Models for Dialogue |url=https://openai.com/blog/chatgpt/ |url-status=live |access-date=5 December 2022 |language=en-US |format=HTML}}</ref><ref name="NYTimesInfo" />。

機能は豊富なものの、複数の欠点もある。OpenAIはChatGPTが「時によっては、もっともらしく見えるが誤っている回答を作成する」ことを認めている<ref name="OpenAIInfo" />。ChatGPTの報酬モデルは人間による監視を中心としているため、最適化されすぎてパフォーマンスに影響を及ばしてしまう（グッドハートの法則）<ref>{{Cite arXiv|eprint=2210.10760|class=cs.LG|last1=Gao|first1=Leo|last2=Schulman|title=Scaling Laws for Reward Model Overoptimization|last3=Hilton|first3=Jacob|year=2022}}</ref>。それに加え、ChatGPTは2021年10月以降に発生した出来事については知識が備えられておらず、一部の著名人については知識が全くないこともある<ref>{{Cite web |title=OpenAI's ChatGPT Update Brings Improved Accuracy |url=https://www.searchenginejournal.com/openai-chatgpt-update/476116/ |website=Search Engine Journal |date=2023-01-11 |access-date=2023-02-17 |language=en |first=Matt G. |last=Southern}}</ref>。

[[BBC]]によると、2022年12月現在でChatGPTは政治的な意見を表明しない仕様である<ref>{{Cite news |title=Could a chatbot answer Prime Minister's Questions? |url=https://www.bbc.com/news/uk-politics-64053550 |access-date=30 December 2022 |work=BBC News |date=27 December 2022}}</ref>。ChatGPTの学習中、人間の「教師」は回答の正当性などに関係なく長い回答を好んでいた<ref name="OpenAIInfo" />。また、訓練データは[[アルゴリズム的バイアス]]があり、時によって人種差別的や性差別的な回答を生成させることにもつながったと言われている。例として、[[有色人種]]や女性の科学者は[[白人]]男性の科学者よりも優れている、といった内容の[[ラップ]]を生成したことがあった<ref>{{Cite web |last=Perrigo |first=Billy |date=5 December 2022 |title=AI Chatbots Are Getting Better. But an Interview With ChatGPT Reveals Their Limits |url=https://time.com/6238781/chatbot-chatgpt-ai-interview/ |access-date=26 December 2022 |website=[[Time (magazine)|Time]]}}</ref><ref>{{Cite web |last=Biddle |first=Sam |date=8 December 2022 |title=The Internet’s New Favorite AI Proposes Torturing Iranians and Surveilling Mosques |url=https://theintercept.com/2022/12/08/openai-chatgpt-ai-bias-ethics/ |access-date=26 December 2022 |website=[[The Intercept]]}}</ref>。ChatGPT-4が日本の医師国家試験を合格することができたとの研究報告がある<ref>{{cite journal | vauthors = Soshi Takagi, Takashi Watari, Ayano Erabi, Kota Sakaguchi | title = Performance of GPT-3.5 and GPT-4 on the Japanese Medical Licensing Examination: Comparison Study | journal = JMIR Med Educ. | volume = 29 | issue = 9 | pages = e48002. | date = January 2023 | pmid = 37384388 | pmc = 10365615 | doi = 10.2196/48002. }}</ref>。

2025年にLifePrompt社が実施した、ChatGPT o1を使った[[大学入学共通テスト]]の得点率が[[東京大学|東大]][[東京大学文科一類|文一]]のボーダーを超える91%に達した<ref>{{Cite web |title=共通テスト、ＡＩの得点率９１％ |url=https://www.iwate-np.co.jp/article/kyodo/2025/1/20/1476079 |website=IWATE NIPPO 岩手日報 |access-date=2025-01-22 |language=ja}}</ref>。また、同年には[[理科三類]]合格レベルにも達した<ref>{{Cite web|title=AIに東大の入試問題を解かせたら…　最難関の理科3類「合格水準」|url=https://mainichi.jp/articles/20250405/k00/00m/040/166000c|website=毎日新聞 |date=2025-04-05| access-date=2025-05-29}}</ref>。

== サービス ==
ChatGPTは2022年11月30日に公開された。当初は無料で公開されたが、後に有料化する計画があるという<ref>{{Cite web |last=Karpf |first=David |date=2022-12-21 |title=Money Will Kill ChatGPT’s Magic |url=https://www.theatlantic.com/technology/archive/2022/12/chatgpt-ai-chatbots-openai-cost-regulations/672539/ |access-date=2022-12-31 |website=The Atlantic |language=en}}</ref>。開発元のOpenAIは同年12月4日までにユーザー数が100万を突破したと見積もった<ref name="ZDNET">{{Cite news |title=What is ChatGPT and why does it matter? Here's what you need to know |url=https://www.zdnet.com/article/what-is-chatgpt-and-why-does-it-matter-heres-what-you-need-to-know/ |access-date=18 December 2022 |work=ZDNET |date=2022 |language=en}}</ref>。12月15日、[[CNBC]]は[[サーバー (コンピューター)|サーバー]]が「未だ時々ダウンする」と報告した<ref name="CNBC">{{Cite news |last1=Pitt |first1=Sofia |title=Google vs. ChatGPT: Here's what happened when I swapped services for a day |url=https://www.cnbc.com/2022/12/15/google-vs-chatgpt-what-happened-when-i-swapped-services-for-a-day.html |access-date=18 December 2022 |work=CNBC |date=2022 |language=en}}</ref>。ChatGPTは主に英語での使用を想定しているが、他の言語でもある程度は機能することができる<ref name="jpost" />。2022年現在、最近話題となったAIとは対照的に、ChatGPTに関する査読済みの技術論文はない<ref>{{Cite news |last1=Walsh |first1=Toby |title=Everyone's having a field day with ChatGPT – but nobody knows how it actually works |url=https://theconversation.com/everyones-having-a-field-day-with-chatgpt-but-nobody-knows-how-it-actually-works-196378 |access-date=30 December 2022 |work=The Conversation |date=2022 |language=en}}</ref>。

OpenAIの[[客員研究員]]であるスコット・アーロンソンは、ChatGPTの悪用を防ぐため、同社がChatGPTの文書生成システムに何らかの形で[[透かし]]を入れる機能を開発していると明かした<ref>{{Cite news |last1=Kovanovic |first1=Vitomir |title=The dawn of AI has come, and its implications for education couldn't be more significant |url=https://theconversation.com/the-dawn-of-ai-has-come-and-its-implications-for-education-couldnt-be-more-significant-196383 |access-date=30 December 2022 |work=The Conversation |date=2022 |language=en}}</ref><ref>{{Cite news |last1=Wiggers |first1=Kyle |title=OpenAI's attempts to watermark AI text hit limits |url=https://techcrunch.com/2022/12/10/openais-attempts-to-watermark-ai-text-hit-limits/ |access-date=30 December 2022 |work=TechCrunch |date=10 December 2022}}</ref>。また、[[ニューヨーク・タイムズ]]は、ChatGPTの後継として、GPT-4が2023年内に公開されることが「噂されている」と報じた<ref name="NYTimesInfo" />。

2023年[[2月1日]]、有料版として「ChatGPT Plus」が発表された<ref>{{Cite web |title=Introducing ChatGPT Plus |url=https://openai.com/index/chatgpt-plus/ |website=openai.com |access-date=2024-12-12 |language=en-US}}</ref><ref>{{Cite web|和書|title=ChatGPTの有料サブスク版「Plus」、月額20ドルで提供開始 |url=https://www.itmedia.co.jp/news/articles/2302/02/news083.html |website=ITmedia NEWS |access-date=2023-02-23 |language=ja}}</ref>。アクセス集中時にも優先的にアクセスできるようになっており、反応の高速化や新機能の使用ができる<ref>{{Cite web|和書|title=ChatGPT、有料プランのパイロット版を米国で開始へ 月20ドル - CIOニュース：CIO Magazine |url=https://project.nikkeibp.co.jp/idg/atcl/19/00002/00431/ |website=project.nikkeibp.co.jp |access-date=2023-02-23 |language=ja}}</ref>。[[アメリカ合衆国|アメリカ]]から順次サービスが提供される<ref>{{Cite web|和書|title=OpenAI、有料プラン「ChatGPT Plus」を提供開始 |url=https://japan.zdnet.com/article/35199539/ |website=ZDNet Japan |date=2023-02-03 |access-date=2023-02-23 |language=ja}}</ref>。

2023年[[11月6日]]、OpenAI DevDayが行われた<ref>{{Citation|title=OpenAI DevDay: Opening Keynote|last=OpenAI|date=2023-11-06|url=https://www.youtube.com/watch?v=U9mJuUkhUzk|access-date=2024-05-15}}</ref>。その中で、[[ノーコード開発プラットフォーム|ノーコード]]でカスタマイズ可能なChatGPTを作成できる「GPTs」を発表した。またGPTsを公開できる「GPT Store」を予定より少し遅れた2024年[[1月10日]]より、有償版ユーザー向けにリリースされた。

2024年[[12月5日]]、ChatGPT Plusの上位クラスに当たる「ChatGPT Pro」が発表された<ref>{{Cite web |title=Introducing ChatGPT Pro |url=https://openai.com/index/introducing-chatgpt-pro/ |website=openai.com |access-date=2024-12-12 |language=en-US}}</ref>。OpenAI o1やo1-mini、GPT-4o、Advanced Voiceに無制限にアクセスすることができる。
{| class="wikitable mw-collapsible"
|+GPTモデルの年表
!年
!日付
!モデル名
!備考
|-
|2022
|11月30日
|[[GPT-3.5]]
|一般に無料公開
|-
| rowspan="6" |2023
|3月15日
|[[GPT-3.5|GPT-4]]
|有料として公開<ref name=":4">{{Cite news |url=https://www.gizmodo.jp/2023/01/chat-gpt-openai-ai-finance-ai-everything-we-know.html |title=ChatGPTとは?始め方や使い方、料金も紹介【4月4日更新】 |publisher=GIZMODO |date=2023-04-04 |accessdate=2023-04-11}}</ref>
|-
|7月10日
|Code Interpreter（コードインタープリタ）
|有償版ユーザー向けにベータ版提供を開始<ref name=":5">{{Cite web |title=ChatGPT、データも扱える新機能「Code Interpreter」 |url=https://www.watch.impress.co.jp/docs/news/1515351.html |website=Impress Watch |date=2023-07-10 |access-date=2024-04-27 |language=ja |last=株式会社インプレス}}</ref>
|-
|9月20日
|[[DALL-E|DALL-E 3]]（ダリ―スリー）
|統合することを発表<ref name=":6">{{Cite web |title=OpenAI、「DALL・E 3」を発表--「ChatGPT」で画像生成が可能に |url=https://japan.cnet.com/article/35209400/ |website=CNET Japan |date=2023-09-22 |access-date=2024-04-27 |language=ja}}</ref>
画像の出力が可能になる
|-
|9月25日
|GPT-4V（ビジョン：Vision）
|発表<ref name=":7">{{Cite web |title=GPT-4V(ision) system card |url=https://openai.com/research/gpt-4v-system-card |website=openai.com |access-date=2024-04-27 |language=en-US}}</ref>
|-
|10月16日
|DALL-E 3
| rowspan="2" |ベータ版を公開<ref name=":8">{{Cite web |title=OpenAIの「DALL・E 3」、ベータ版リリース--「ChatGPT」有料ユーザー向け |url=https://japan.cnet.com/article/35210515/ |website=CNET Japan |date=2023-10-20 |access-date=2024-04-27 |language=ja}}</ref>
|-
|10月26日
|GPT-4V
|-
| rowspan="10" |2024
|2月15日
|[[Sora (人工知能モデル)|Sora]]（ソラ）
|発表<ref name=":9">{{Cite web |title=Sora: Creating video from text |url=https://openai.com/sora |website=openai.com |access-date=2024-04-27 |language=en-US}}</ref>
動画の生成を行える
|-
|5月13日
|[[GPT-4o]]（オムニ : omni）
|発表、リリース<ref name=":10">{{Cite web |url=https://openai.com/index/hello-gpt-4o/ |title=GPT-4omni |access-date=2024-05-16 |publisher=OpenAI}}</ref><ref name=":11">{{Cite web |url=https://openai.com/index/spring-update/ |title=Spring Update |access-date=2024-05-16 |publisher=OpenAI}}</ref>
音声認識、画像（動画）認識の速度が向上
|-
|7月18日
|GPT-4o mini（ジーピーティー フォー オムニ ミニ）
|発表、リリース<ref name=":12">{{Cite web |url=https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/ |title=GPT-4o mini |access-date=2024/9/10}}</ref>
|-
| rowspan="3" |9月12日
|[[OpenAI o1]]（オー ワン）
|発表<ref name=":13">{{Cite web |url=https://openai.com/index/learning-to-reason-with-llms/ |title=OpenAI o1 |access-date=2024年09月14日}}</ref>
論理的思考能力を強化
|-
|OpenAI o1-preview（オーワン プレビュー）
|公開<ref name=":14">{{Cite web |url=https://openai.com/index/openai-o1-mini-advancing-cost-efficient-reasoning/ |title=OpenAI o1-mini |access-date=2024年9月14日}}</ref>
|-
|OpenAI o1-mini（オーワン ミニ）
|公開<ref name=":15">{{Cite web |url=https://openai.com/index/introducing-openai-o1-preview/ |title=OpenAI o1-preview |access-date=2024年9月14日}}</ref>
|-
|10月3日
|canvas（キャンバス）
|発表、ベータ版をリリース<ref name=":16">{{Cite web |url=https://openai.com/index/introducing-canvas/ |title=Introducing canvas |access-date=2024年10月7日 |publisher=OpenAI}}</ref>
新しいインターフェース
|-
|12月5日
|o1
|フルバージョンを公開
|-
|12月9日
|Sora
|公開<ref name=":17">{{Cite web |url=https://openai.com/ja-JP/index/sora-is-here/ |title=Sora |access-date=2025/01/24 |website=OpenAI}}</ref>
ChatGPTからはアクセスできず、専用ページから利用可能
|-
|12月20日
|[[OpenAI o3]]
|発表
|-
| rowspan="6" |2025
|1月31日
|o3-mini
|公開<ref name=":18">{{Cite web |title=OpenAI o3-mini |url=https://openai.com/index/openai-o3-mini/ |website=openai.com |access-date=2025-02-08 |language=en-US}}</ref>
数学やプログラミングなど技術分野に強い
|-
|2月27日
|[[GPT-4.5]]
|公開<ref>{{Cite web |title=GPT-4.5 が登場 |url=https://openai.com/ja-JP/index/introducing-gpt-4-5/ |website=openai.com |access-date=2025-05-15 |language=ja-JP}}</ref>
より共感的で自然な対話が可能
|-
|4月14日
|GPT-4.1
|APIのみ公開<ref>{{Cite web |title=Introducing GPT-4.1 in the API |url=https://openai.com/index/gpt-4-1/ |website=openai.com |access-date=2025-05-15 |language=en-US}}</ref>
長文理解において大幅な進化

GPT-4oと同等以上の性能を持つ
|-
| rowspan="2" |4月16日
|o3
| rowspan="2" |公開<ref>{{Cite web |title=OpenAI o3 と o4-mini が登場 |url=https://openai.com/ja-JP/index/introducing-o3-and-o4-mini/ |website=openai.com |access-date=2025-05-15 |language=ja-JP}}</ref>
複雑な問題解決に対応するために設計
|-
|o4-mini
|-
|5月15日
|GPT-4.1
|web版、アプリ版ChatGPTでも使用可能に
|}
== 応用 ==

=== 学術研究 ===
ChatGPTが共著者として記載されている論文も存在する<ref>{{Cite journal|last=Stokel-Walker|first=Chris|date=January 18, 2023|title=ChatGPT listed as author on research papers: many scientists disapprove|url=https://www.nature.com/articles/d41586-023-00107-z|journal=Nature|volume=613|issue=7945|pages=620–621|language=en|bibcode=2023Natur.613..620S|doi=10.1038/d41586-023-00107-z|pmid=36653617|s2cid=255969365|access-date=January 30, 2023|archive-date=January 30, 2023|archive-url=https://web.archive.org/web/20230130142004/https://www.nature.com/articles/d41586-023-00107-z|url-status=live}}</ref>が、[[科学雑誌]]の[[ネイチャー]]、[[サイエンス]]などは、ChatGPTのような[[大規模言語モデル]]（LLM）を共著者として記載することを禁止している<ref>{{Cite web |title=Artificial Intelligence (AI) {{!}} Nature Portfolio |url=https://www.nature.com/nature-portfolio/editorial-policies/ai |website=www.nature.com |access-date=2024-10-16}}</ref><ref>{{cite journal|last1=Brainard|first1=Jeffrey|date=February 22, 2023|title=As scientists explore AI-written text, journals hammer out policies|url=https://www.science.org/content/article/scientists-explore-ai-written-text-journals-hammer-policies|journal=Science|language=en|doi=10.1126/science.adh2937|access-date=February 24, 2023|archive-date=February 24, 2023|archive-url=https://web.archive.org/web/20230224082118/https://www.science.org/content/article/scientists-explore-ai-written-text-journals-hammer-policies|url-status=live}}</ref><ref>{{Cite journal|last=Thorp|first=H. Holden|date=2023-01-27|title=ChatGPT is fun, but not an author|url=https://www.science.org/doi/10.1126/science.adg7879|journal=Science|volume=379|issue=6630|pages=313–313|language=en|doi=10.1126/science.adg7879|issn=0036-8075}}</ref>。ChatGPTは[[ハルシネーション (人工知能)|ハルシネーション]]を起こす事があるため、学術界で教育やレビューに使用することへの問題点が数多く指摘されている<ref>{{Cite journal|last1=Alkaissi|first1=Hussam|last2=McFarlane|first2=Samy I.|last3=Alkaissi|first3=Hussam|last4=McFarlane|first4=Samy I.|date=February 19, 2023|title=Artificial Hallucinations in ChatGPT: Implications in Scientific Writing|journal=Cureus|volume=15|issue=2|pages=e35179|language=en|doi=10.7759/cureus.35179|issn=2168-8184|pmc=9939079|pmid=36811129|doi-access=free}}</ref><ref>{{Cite news |last=Vynck |first=Gerrit De |date=May 31, 2023 |title=ChatGPT 'hallucinates.' Some researchers worry it isn't fixable. |language=en-US |newspaper=Washington Post |url=https://www.washingtonpost.com/technology/2023/05/30/ai-chatbots-chatgpt-bard-trustworthy/ |access-date=June 14, 2023 |issn=0190-8286 |archive-date=June 17, 2023 |archive-url=https://web.archive.org/web/20230617021157/https://www.washingtonpost.com/technology/2023/05/30/ai-chatbots-chatgpt-bard-trustworthy/ |url-status=live}}</ref><ref>{{Cite journal|last1=Azamfirei|first1=Razvan|last2=Kudchadkar|first2=Sapna R.|last3=Fackler|first3=James|date=March 21, 2023|title=Large language models and the perils of their hallucinations|journal=Critical Care|volume=27|issue=1|pages=120|doi=10.1186/s13054-023-04393-x|issn=1364-8535|pmc=10032023|pmid=36945051|doi-access=free}}</ref>。[[ティルブルフ大学]]の助教授であるロビン・バウエンスは、自身の論文に関するChatGPTによって生成された[[査読]]に実在しない研究が記載されていることを発見した<ref>{{Cite web |date=April 5, 2023 |title='ChatGPT-generated reading list' sparks AI peer review debate |url=https://www.timeshighereducation.com/news/chatgpt-generated-reading-list-sparks-ai-peer-review-debate |access-date=June 14, 2023 |website=Times Higher Education |url-access=subscription |first1=Jack |last1=Grove |language=en |archive-date=May 23, 2023 |archive-url=https://web.archive.org/web/20230523005906/https://www.timeshighereducation.com/news/chatgpt-generated-reading-list-sparks-ai-peer-review-debate |url-status=live}}</ref>。[[シアトル大学]]ルミュー図書館の司書クリス・グラナティーノは、ChatGPTは一見もっともらしい引用を含むコンテンツを生成できるが、ほとんどの場合、引用は本物ではないか、間違っていると主張している<ref>{{Cite web |title=ChatGPT and AI Hallucination |first1=Chris |last1=Granatino |date=May 5, 2023 |url=https://library.seattleu.edu/friendly.php?s=blog/ChatGPT-and-AI-Hallucination |access-date=June 14, 2023 |website=Lemieux Library at Seattle University |language=en |archive-date=February 18, 2024 |archive-url=https://web.archive.org/web/20240218162047/https://library.seattleu.edu/friendly.php?s=blog/ChatGPT-and-AI-Hallucination |url-status=live}}</ref>。

=== プログラミング ===
[[パデュー大学]]の研究者らは、[[Stack Overflow]]に投稿された[[ソフトウェアエンジニアリング]]や[[プログラミング]]に関する517の質問に対するChatGPTの回答の正確性、一貫性、包括性、簡潔性を分析したところ、52％に不正確な点があり、77％が冗長であることがわかった<ref>{{cite news |last=Morrison |first=Ryan |date=August 8, 2023 |title=ChatGPT wrong over half the time on software questions |website=Tech Monitor |publisher=[[New Statesman|New Statesman Media Group]] |url=https://techmonitor.ai/technology/ai-and-automation/chatgpt-wrong-over-half-the-time-on-software-questions |access-date=December 5, 2023 |archive-date=December 5, 2023 |archive-url=https://web.archive.org/web/20231205051845/https://techmonitor.ai/technology/ai-and-automation/chatgpt-wrong-over-half-the-time-on-software-questions |url-status=live}}</ref><ref>{{Cite arXiv|eprint=2308.02312v3|class=cs.SE|last1=Kabir|first1=Samia|last2=Udo-Imeh|first2=David N.|title=Who Answers It Better? An In-Depth Analysis of ChatGPT and Stack Overflow Answers to Software Engineering Questions|date=August 10, 2023|last3=Kou|first3=Bonan|last4=Zhang|first4=Tianyi}}</ref>。[[スタンフォード大学]]と[[カリフォルニア大学バークレー校]]の研究者らは、[[LeetCode]]の「簡単」と評価された問題50件に対して実行可能な回答を作成した割合を測定した。その結果、GPT-3.5とGPT-4のパフォーマンスは2023年3月にはそれぞれ22％と52％で、2023年6月には2％と10％に低下した<ref name="Boston Globe 11-8-2023">{{cite news |last=Pressman |first=Aaron |date=November 8, 2023 |title=The AI boom is shaking up the tech industry and moving markets. But is it all a mirage? |work=[[The Boston Globe]] |url=https://www.bostonglobe.com/2023/11/08/business/ai-boom-hype-tech-markets/ |access-date=December 5, 2023 |archive-date=December 5, 2023 |archive-url=https://web.archive.org/web/20231205205307/https://www.bostonglobe.com/2023/11/08/business/ai-boom-hype-tech-markets/ |url-status=live}}</ref><ref name="arXiv 2307.09009v3">{{Cite arXiv|eprint=2307.09009v3|class=cs.CL|last1=Chen|first1=Lingjiao|last2=Zaharia|first2=Matei|title=How is ChatGPT's behavior changing over time?|date=October 31, 2023|last3=Zou|first3=James}}</ref>。

[[カーネギーメロン大学]]のソフトウェアエンジニアリング研究所で、ChatGPTに既知の[[脆弱性]]に対する検証タスクを実行させたところ、結果はまちまちで、検出に成功することもあれば、致命的な脆弱性を見過ごすこともあり、存在しない脆弱性についての警告を出力することもあった。全体的なパフォーマンスとしては52.1%の割合で判定に失敗した。一般的なソフトウェア開発者の傾向として、コードのレビューとバグの特定に不慣れであることから、ChatGPTのデバッグ結果を鵜呑みにしたり、ChatGPTの生成した脆弱性を含む修正コードを無批判に利用することでセキュリティリスクを生じさせる可能性が指摘されている<ref>{{Cite web |url=https://insights.sei.cmu.edu/blog/using-chatgpt-to-analyze-your-code-not-so-fast/ |title=Using ChatGPT to Analyze Your Code? Not So Fast |access-date=2024-10-04 |publisher=Carnegie Mellon University Software Engineering Institute}}</ref>。

=== サイバー犯罪 ===
チェック・ポイント・リサーチなどは、ChatGPTにより[[フィッシング (詐欺)|フィッシング]]メールや[[マルウェア]]を作成できることを指摘しており、特に[[OpenAI Codex]]と組み合わせて利用すると容易になることが知られている。Cyber Arkの研究者は、ChatGPTによりセキュリティを回避するポリモーフィック・マルウェアを容易に作成できることを実証した<ref>{{Cite web |last1=Shimony |first1=Eran |last2=Tsarfati |first2=Omer |date=January 17, 2023 |title=Chatting Our Way Into Creating a Polymorphic Malware |url=https://www.cyberark.com/resources/threat-research-blog/chatting-our-way-into-creating-a-polymorphic-malware |url-status=live |archive-url=https://web.archive.org/web/20230512092411/https://www.cyberark.com/resources/threat-research-blog/chatting-our-way-into-creating-a-polymorphic-malware |archive-date=May 12, 2023 |access-date=May 12, 2023 |website=CyberArk |language=en}}</ref><ref>{{Cite web |last=Mascellino |first=Alessandro |date=January 18, 2023 |title=ChatGPT Creates Polymorphic Malware |url=https://www.infosecurity-magazine.com/news/chatgpt-creates-polymorphic-malware/ |url-status=live |archive-url=https://web.archive.org/web/20230512092411/https://www.infosecurity-magazine.com/news/chatgpt-creates-polymorphic-malware/ |archive-date=May 12, 2023 |access-date=May 12, 2023 |website=Infosecurity Magazine}}</ref>。ChatGPTがリリースされた2022年第4四半期から2023年第4四半期にかけて、フィッシングメールは1265％増加し、認証に関するフィッシングは967％増加した。この増加についてサイバーセキュリティの専門家は、サイバー犯罪者がChatGPTを含む生成AIを利用するようになったことに起因すると指摘している<ref>{{cite news |last=Violino |first=Bob |date=November 28, 2023 |title=AI tools such as ChatGPT are generating a mammoth increase in malicious phishing emails |url=https://www.cnbc.com/2023/11/28/ai-like-chatgpt-is-creating-huge-increase-in-malicious-phishing-email.html |url-status=live |archive-url=https://web.archive.org/web/20231205012011/https://www.cnbc.com/2023/11/28/ai-like-chatgpt-is-creating-huge-increase-in-malicious-phishing-email.html |archive-date=December 5, 2023 |access-date=December 5, 2023 |publisher=CNBC}}</ref>。

2024年7月、ネットメディアのFuturismは、ChatGPTの[[GPT-4o]]が偽のソフトウェアアップデートや偽のウイルス感染の警告でユーザーを脅迫する詐欺サイトへのリンクを提示することがあると報告した。この種のサイトはマルウェアや[[潜在的に迷惑なアプリケーション]]（PUP）をダウンロードさせることを試みていると見られる<ref>{{cite news |last=Dupré |first=Maggie Harrison |date=July 1, 2024 |title=ChatGPT-4o Is Sending Users to a Scammy Website That Floods Your Screen With Fake Virus Warnings |url=https://futurism.com/chatgpt-fake-virus-warnings |url-status=live |archive-url=https://web.archive.org/web/20240701162535/https://futurism.com/chatgpt-fake-virus-warnings |archive-date=July 1, 2024 |access-date=July 1, 2024 |work=Futurism}}</ref>。

== 反響 ==

=== 大手メディア・著名人の反応 ===
[[ニューヨーク・タイムズ]]はChatGPTを「今まで公衆に公開されてきたチャットボットの中で一番良いものである」と評し<ref>{{Cite news |last1=Roose |first1=Kevin |title=The Brilliance and Weirdness of ChatGPT |url=https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html |access-date=18 December 2022 |work=The New York Times |date=5 December 2022}}</ref>、[[イギリス|英]][[ガーディアン]]はChatGPTが「驚くほど詳細」でまるで「人間のような」回答を生成することができると記した<ref>{{Cite web |last=Lock |first=Samantha |date=2022-12-05 |title=What is AI chatbot phenomenon ChatGPT and could it replace humans? |url=https://www.theguardian.com/technology/2022/dec/05/what-is-ai-chatbot-phenomenon-chatgpt-and-could-it-replace-humans |access-date=2022-12-05 |website=[[The Guardian]]}}</ref>。[[ダン・ギルモア]]はChatGPTを生徒の課題に使い、出力結果が優秀な生徒による回答と同レベルであることを発見した上で、「学界は大きな問題に直面している」と意見した<ref name=":0">{{Cite web |last=Hern |first=Alex |date=2022-12-04 |title=AI bot ChatGPT stuns academics with essay-writing skills and usability |url=https://www.theguardian.com/technology/2022/dec/04/ai-bot-chatgpt-stuns-academics-with-essay-writing-skills-and-usability |access-date=2022-12-05 |website=[[The Guardian]]}}</ref>。また、アメリカ合衆国に拠点を置く雑誌『Slate』は、ChatGPTが、ユーザーが[[ナチス・ドイツ]]に関する質問を入力した際に生成する回答を賛美した。同雑誌は例として、[[アドルフ・ヒトラー]]が[[アウトバーン]]を建設したというナチス・ドイツを賛美する内容の入力に対し、ChatGPTが第二次世界大戦時のナチス・ドイツによる強制労働について解説する回答を生成したことを挙げた<ref>{{Cite web |last=Kantrowitz |first=Alex |date=2022-12-02 |title=Finally, an A.I. Chatbot That Reliably Passes "the Nazi Test" |url=https://slate.com/technology/2022/12/chatgpt-openai-artificial-intelligence-chatbot-whoa.html |access-date=2022-12-05 |website=[[Slate (magazine)|Slate]]}}</ref>。

[[Vox Media]]のケルシー・パイパーは、ChatGPTがAIの進化ぶりを公衆に可視化したことで公衆が唖然としたことを指摘し、欠点を差し引いてもChatGPTは高い頭脳を有していると評価した。[[Yコンビネータ (企業)|Yコンビネータ]]の[[ポール・グレアム]]は「ChatGPTに圧倒されている人たちが、新しい物全部にキャーキャー言う人だけではないのが印象的だ。確実に何か大きいことが起こっている<ref>{{Cite news |last1=Scharth |first1=Marcel |title=The ChatGPT chatbot is blowing people away with its writing skills. An expert explains why it's so impressive |url=https://theconversation.com/the-chatgpt-chatbot-is-blowing-people-away-with-its-writing-skills-an-expert-explains-why-its-so-impressive-195908 |access-date=30 December 2022 |work=The Conversation |language=en}}</ref>」とツイートした。開発元であるOpenAIの設立者の一人でもある[[イーロン・マスク]]は、「ChatGPTは恐ろしいほど良い。危険なほどのAIも遠くない」と書いた<ref>{{Cite news |last1=Piper |first1=Kelsey |title=ChatGPT has given everyone a glimpse at AI's astounding progress |url=https://www.vox.com/future-perfect/2022/12/15/23509014/chatgpt-artificial-intelligence-openai-language-models-ai-risk-google |access-date=18 December 2022 |work=Vox |date=15 December 2022 |language=en}}</ref>。また、彼は「OpenAIは[[オープンソース]]かつ[[非営利団体]]として設立されたが、今ではそれが変わっている」と主張し、同社による[[Twitter]]のデータベースへのアクセスを一時遮断した<ref>{{Cite news |title=Explainer: ChatGPT - what is OpenAI's chatbot and what is it used for? |url=https://www.reuters.com/technology/chatgpt-what-is-openais-chatbot-what-is-it-used-2022-12-05/ |access-date=30 December 2022 |work=Reuters |date=5 December 2022 |language=en}}</ref><ref name="business insider">{{Cite news |last1=Kay |first1=Grace |title=Elon Musk founded — and has since criticized — the company behind the buzzy new AI chatbot ChatGPT. Here's everything we know about OpenAI. |url=https://www.businessinsider.com/history-of-openai-company-chatgpt-elon-musk-founded-2022-12 |access-date=30 December 2022 |work=Business Insider |date=11 December 2022}}</ref>。マスクは[[汎用人工知能による人類滅亡のリスク]]に対応するため、2015年にOpenAIを共同設立していたが、2018年にCEOの座を降りていた<ref name="business insider" />。

[[ファイル:Sundar_pichai.png|サムネイル|Googleのサンダー・ピチャイCEO<ref name="code red">{{Cite news |last1=Grant |first1=Nico |last2=Metz |first2=Cade |title=A New Chat Bot Is a 'Code Red' for Google's Search Business |url=https://www.nytimes.com/2022/12/21/technology/ai-chatgpt-google-search.html |access-date=30 December 2022 |work=The New York Times |date=21 December 2022}}</ref>]]
2022年12月、ニューヨーク・タイムズは、ChatGPTが[[検索エンジン]]事業にもたらす脅威を受け、自社の検索エンジンの先行きが曇ってきたことから、[[Google]]が「コードレッド（緊急事態）」を発動し、[[サンダー・ピチャイ]]CEOが社内にChatGPTの脅威に対応するよう命じたと報じた<ref name="code red" /><ref>{{Cite news|和書 |title=グーグルが方針変更、ChatGPTに対抗へ…ピチャイCEOが新しいAI製品の開発を指示 |newspaper=[[Business Insider]] |date=2022-12-23 |url=https://www.businessinsider.jp/article/263637/ |access-date=2023-01-27}}</ref>。2023年「[[日経サイエンス]]」でもChatGPTが表紙を飾り内容が大きく取り上げられた。

2023年4月10日、ChatGPTを公開した米[[OpenAI]]社の[[サム・アルトマン]][[最高経営責任者|CEO]]が訪日し、[[内閣総理大臣官邸|首相官邸]]で[[内閣総理大臣]]・[[岸田文雄]]と面会した<ref>{{Cite news|url=https://www.nikkei.com/article/DGXZQOUA101XV0Q3A410C2000000/|title=岸田文雄首相、「ChatGPT」の企業CEOと面会|publisher=日本経済新聞|date=2023-04-10|accessdate=2023-04-11}}</ref>。

=== 学術界の反応 ===
学術界では人間の生産性を上げることができるという声があり、大学によるとChatGPTのプロンプトエンジニア授業はすでに存在しているが<ref>{{Cite web|和書 |title=Prompt Engineering for ChatGPT |url=https://www.coursera.org/learn/prompt-engineering |website=Coursera |access-date=2023-05-28 |language=ja}}</ref>、ChatGPTは論文の冒頭や一部の節を書くことができ、倫理的な疑問が上がっている<ref>{{Cite web |date=January 10, 2023 |last=Bushard |first=Brian |title=Fake Scientific Abstracts Written By ChatGPT Fooled Scientists, Study Finds |url=https://www.forbes.com/sites/brianbushard/2023/01/10/fake-scientific-abstracts-written-by-chatgpt-fooled-scientists-study-finds/ |access-date=January 30, 2023 |website=Forbes |language=en |archive-date=February 3, 2023 |archive-url=https://web.archive.org/web/20230203051254/https://www.forbes.com/sites/brianbushard/2023/01/10/fake-scientific-abstracts-written-by-chatgpt-fooled-scientists-study-finds/ |url-status=live}}</ref>。なお、複数の論文が既にChatGPTを共同著者として挙げていることが知られている<ref>{{Cite journal|last=Stokel-Walker|first=Chris|date=January 18, 2023|title=ChatGPT listed as author on research papers: many scientists disapprove|url=https://www.nature.com/articles/d41586-023-00107-z|journal=Nature|volume=613|issue=7945|pages=620–621|language=en|doi=10.1038/d41586-023-00107-z|pmid=36653617|s2cid=255969365|access-date=January 30, 2023|archive-date=January 30, 2023|archive-url=https://web.archive.org/web/20230130142004/https://www.nature.com/articles/d41586-023-00107-z|url-status=live}}</ref>。

[[アトランティック誌]]はChatGPTの学界、特に卒業論文などへの影響はまだ把握できる段階ではないと指摘したが<ref>{{Cite web |last=Marche |first=Stephen |date=December 6, 2022 |title=The College Essay Is Dead |url=https://www.theatlantic.com/technology/archive/2022/12/chatgpt-ai-writing-college-student-essays/672371/ |access-date=December 8, 2022 |website=[[The Atlantic]] |archive-date=January 24, 2023 |archive-url=https://web.archive.org/web/20230124042209/https://www.theatlantic.com/technology/archive/2022/12/chatgpt-ai-writing-college-student-essays/672371/ |url-status=live}}</ref>、[[カリフォルニア州]]のある高校教師はChatGPTが「[[高校]]での[[英語教育]]の終焉」を招いていると主張した<ref>{{Cite news |last=Herman |first=Daniel |date=December 9, 2022 |title=The End of High-School English |url=https://www.theatlantic.com/technology/archive/2022/12/openai-chatgpt-writing-high-school-english-essay/672412/ |access-date=December 12, 2022 |website=[[The Atlantic]] |archive-date=January 20, 2023 |archive-url=https://web.archive.org/web/20230120053725/https://www.theatlantic.com/technology/archive/2022/12/openai-chatgpt-writing-high-school-english-essay/672412/ |url-status=live}}</ref>。[[ネイチャー]]のChris Stokel-Walkerは、[[教員]]は[[生徒]]が課題をChatGPT任せにしていることを問題視するべきだと指摘した<ref>{{Cite journal|last=Stokel-Walker|first=Chris|date=December 9, 2022|title=AI bot ChatGPT writes smart essays — should professors worry?|url=https://www.nature.com/articles/d41586-022-04397-7|journal=[[Nature (journal)|Nature]]|doi=10.1038/d41586-022-04397-7|pmid=36494443|access-date=December 19, 2022|s2cid=254530623|archive-date=January 17, 2023|archive-url=https://web.archive.org/web/20230117192149/https://www.nature.com/articles/d41586-022-04397-7|url-status=live}}</ref>。[[NPR (米国公共ラジオ放送)|NPR]]のEmma Bowmanは、学生がAIを使って不正を試みても、AIは偏見を含む、権威のある人のような口調とともに意味のない回答を生成する場合があり、AIがどれだけ素晴らしく見える回答を生成しても、生成内容と実際の事実は異なることがあると述べた<ref>{{Cite web |last=Bowman |first=Emma |title=A new AI chatbot might do your homework for you. But it's still not an A+ student |url=https://www.npr.org/2022/12/19/1143912956/chatgpt-ai-chatbot-homework-academia |date=December 19, 2022 |access-date=December 19, 2022 |website=[[NPR (米国公共ラジオ放送)|NPR]] |archive-date=January 20, 2023 |archive-url=https://web.archive.org/web/20230120095239/https://www.npr.org/2022/12/19/1143912956/chatgpt-ai-chatbot-homework-academia/ |url-status=live}}</ref>。

{{仮リンク|ファーマン大学|en|Furman University}}教授のDarren Hickは、ある学生によって提出された論文がChatGPTの「型」に気が付いたことを話した。彼がその論文をGPT探知サイトにかけてみると、AIが生成した文章である可能性は99.9%であるとの結果が出たが、確証は得られなかった。問題の論文を提出した学生に質問したところ、GPTを使っていたことを白状したため、同学生は落第処分を受けた<ref>{{Cite news |title=Students using ChatGPT to cheat, professor warns |url=https://nypost.com/2022/12/26/students-using-chatgpt-to-cheat-professor-warns/ |last=Mitchell |first=Alex |access-date=December 30, 2022 |work=The New York Post |date=December 26, 2022 |archive-date=February 3, 2023 |archive-url=https://web.archive.org/web/20230203051258/https://nypost.com/2022/12/26/students-using-chatgpt-to-cheat-professor-warns/ |url-status=live}}</ref>。Hickは、AI生成の論文を[[コピペ]]したことが強く疑われる場合には、提出した生徒に「[[アドホック]]」として個別に口頭での試験を行うことを提案した<ref>{{Cite news |last1=Allen |first1=Mike |title=Professor warns about chatbot cheating: "Expect a flood" |url=https://www.axios.com/2022/12/26/chatbot-cheating-university-warning-chatgpt |access-date=December 30, 2022 |work=Axios |date=December 26, 2022 |language=en |archive-date=February 3, 2023 |archive-url=https://web.archive.org/web/20230203051357/https://www.axios.com/2022/12/26/chatbot-cheating-university-warning-chatgpt |url-status=live}}</ref>。ある[[プリンストン大学]]生は、入力された文章のどれくらいがAI生成かを判断できるプログラムを作成し、"GPTZero"と名付け<ref>{{Cite news |last1=Rosalsky |first1=Greg |last2=Peaslee |first2=Emma |date=January 17, 2023 |title=This 22-year-old is trying to save us from ChatGPT before it changes writing forever |work=NPR |url=https://www.npr.org/sections/money/2023/01/17/1149206188/this-22-year-old-is-trying-to-save-us-from-chatgpt-before-it-changes-writing-for |access-date=January 18, 2023 |quote=On January 2nd, Edward released his app. He named it GPTZero. It uses ChatGPT against itself, checking whether "there's zero involvement or a lot of involvement" of the AI system in creating a given text. [...] Along these lines, one obvious application for GPTZero is to help teachers identify whether their students are plagiarizing their essays from ChatGPT. |archive-date=January 18, 2023 |archive-url=https://web.archive.org/web/20230118055050/https://www.npr.org/sections/money/2023/01/17/1149206188/this-22-year-old-is-trying-to-save-us-from-chatgpt-before-it-changes-writing-for |url-status=live}}</ref>、[[盗用]]を防ぐツールとして貸し出している<ref>{{Cite web |date=January 4, 2023 |title=Did ChatGPT Write That? A College Student Created an AI Essay Detector |url=https://gizmodo.com/chatgpt-ai-essay-detector-college-princeton-edward-tian-1849946535 |access-date=January 4, 2023 |website=Gizmodo |last=Ropek |first=Lucas |language=en |archive-date=January 4, 2023 |archive-url=https://web.archive.org/web/20230104225814/https://gizmodo.com/chatgpt-ai-essay-detector-college-princeton-edward-tian-1849946535 |url-status=live}}</ref><ref>{{Cite news |last=Tran |first=Tony Ho |date=January 4, 2023 |title=A College Kid Built an App That Sniffs Out Text Penned by AI |language=en |work=The Daily Beast |url=https://www.thedailybeast.com/princeton-student-edward-tian-built-gptzero-to-detect-ai-written-essays |access-date=January 6, 2023 |archive-date=January 6, 2023 |archive-url=https://web.archive.org/web/20230106162856/https://www.thedailybeast.com/princeton-student-edward-tian-built-gptzero-to-detect-ai-written-essays |url-status=live}}</ref>。

2022年12月、[[ニューヨーク市教育局]]がChatGPTへのアクセスをブロックしたことが報じられた<ref>{{Cite news |title=New York City Department of Education Bans ChatGPT |url=https://www.govtech.com/education/k-12/new-york-city-department-of-education-bans-chatgpt |access-date=16 February 2023 |work=GovTech |date=10 January 2023 |language=en}}</ref>。翌年1月3日ごろ、同局がChatGPTの利用を制限することを正式に明らかにした<ref>{{Cite news |title=NYC Bans Students and Teachers from Using ChatGPT |url=https://www.vice.com/en/article/y3p9jx/nyc-bans-students-and-teachers-from-using-chatgpt |last=Cole |first=Samantha |access-date=January 5, 2023 |work=www.vice.com |date=January 4, 2023 |language=en |archive-date=January 5, 2023 |archive-url=https://web.archive.org/web/20230105025338/https://www.vice.com/en/article/y3p9jx/nyc-bans-students-and-teachers-from-using-chatgpt |url-status=live}}</ref><ref>{{Cite web |date=January 4, 2023 |title=New York City Schools Ban ChatGPT to Head Off a Cheating Epidemic |url=https://gizmodo.com/new-york-city-schools-chatgpt-ban-cheating-essay-openai-1849949384 |first=Lucas |last=Ropek |access-date=January 6, 2023 |website=Gizmodo |language=en |archive-date=January 6, 2023 |archive-url=https://web.archive.org/web/20230106162900/https://gizmodo.com/new-york-city-schools-chatgpt-ban-cheating-essay-openai-1849949384 |url-status=live}}</ref><ref>{{Cite news|和書 |title=ニューヨーク市、学校での「ChatGPT」利用を禁止 |newspaper=[[CNET Japan]] |date=2023-01-05 |url=https://japan.cnet.com/article/35198179/ |access-date=2023-02-22 |archive-date=2023-02-04 |archive-url=https://web.archive.org/web/20230204214944/https://japan.cnet.com/article/35198179/}}</ref>。

[[2023年]]2月、[[香港大学]]は大学内の全ての授業、課題、評価においてChatGPTやその他のAIツールの使用を禁止することを通達した。授業担当者の書面による事前承諾がない限り、[[剽窃]]として扱われるようになった<ref>{{Cite news |date=2023-02-18 |title=港大禁用ChatGPT等AI工具，为全港大学首例 |website=[[The Paper (newspaper)|The Paper]] |publisher=China News Service |url=https://m.thepaper.cn/newsDetail_forward_21956092 |accessdate=2023-02-19}}</ref><ref>{{Cite web |date=2023-02-17 |title=University of Hong Kong temporarily bans students from using ChatGPT |url=https://www.scmp.com/news/hong-kong/education/article/3210650/university-hong-kong-temporarily-bans-students-using-chatgpt-other-ai-based-tools-coursework |access-date=2023-02-19 |website=South China Morning Post |language=en}}</ref>。

ChatGPTは[[ミネソタ大学ツインシティー校|ミネソタ大学]]の卒業生用のテストでC+、また[[ウォートン・スクール]]の同様のテストでBからB-の評価を得て、それぞれ合格水準に達した<ref>{{Cite web |url=https://www.cnn.com/2023/01/26/tech/chatgpt-passes-exams/index.html |title=ChatGPT passes exams from law and business schools | CNN Business |first=Samantha Murphy |last=Kelly |date=January 26, 2023 |website=CNN |access-date=February 3, 2023 |archive-date=February 2, 2023 |archive-url=https://web.archive.org/web/20230202083919/https://www.cnn.com/2023/01/26/tech/chatgpt-passes-exams/index.html |url-status=live}}</ref>。

==== 東京大学 ====
[[2023年]][[4月3日]]、[[東京大学]]は理事・副学長の[[太田邦史]]の署名付き文章で、全学生・教員向けにChatGPT、BingAIやBard等の生成AIの利用に関する注意喚起を行った。この文章では生成AIを『平和的かつ上手に制御して利用すれば』有益であるとする一方で技術的な課題があるとして、今後の社会への悪影響に対する懸念を表明した。また、生成AIの文章には嘘が含まれている可能性が高く、「ChatGPTを使いこなすには、相当の専門的な知識が必要であり、回答を批判的に確認し、適宜修正することが必要である」と指摘している<ref name="u-tokyo-20230403-generative-ai" />。

同文章では、機密情報や[[個人情報]]の扱いについても注意喚起を行っており、安易にChatGPTにそれらの情報を送信することは危険であることを指摘し、業務で知り得た機密情報、未公開の[[発明]]内容、研究費などの申請内容、[[入学試験]]問題の原稿、個人情報などは質問に含めてはならないとしている<ref name="u-tokyo-20230403-generative-ai" />。

東京大学の方針として、[[学位論文]]やレポートについては、生成系AIのみを使用して作成することを禁止する一方で、実際には利用を検知することは困難であることから、論文やレポートなどの書面審査だけでなく、対面での口頭審査・筆記試験などを組み合わせて、本人が作成したのか検証する必要が出てくるとした<ref name="u-tokyo-20230403-generative-ai" />。

2023年に5月18日、東京大学でChatGPTを[[裁判官]]役とした模擬裁判のイベントが開催された<ref>{{Cite web|和書 |title=AI法廷の模擬裁判 |url=https://www.aimocktrial.com/ |website=www.aimocktrial.com |access-date=2023-05-20 |language=ja}}</ref><ref name=":3">{{Cite web|和書 |title=ChatGPTが裁判官？AIに裁かれる未来、受け入れますか｜NHK |url=https://www3.nhk.or.jp/news/special/sci_cul/2023/05/special/ai-judgement/ |website=NHK NEWS WEB |access-date=2023-05-20 |language=ja |last=日本放送協会}}</ref>。弁護士からは妥当な判決で裁判の補助ツールとして有用であるという評価を受けたが、後から入力された情報が重視される癖のような反応も確認された<ref name=":3" />。この癖に合わせて通常の裁判とは異なる進行で行われた<ref name=":3" />。

== 批判 ==
[[ファイル:ChatGPT availability by country or region.svg|サムネイル|2023年6月現在、ChatGPTが利用できる国または地域を示した地図]]
文章生成に[[報道機関]]の記事を無報酬で使用しているとして、批判を受けている。『[[ウォール・ストリート・ジャーナル]]』紙の発行元である[[ダウ・ジョーンズ]]のジェイソン・コンティは「人工知能の訓練にウォール・ストリート・ジャーナルの記事を使う場合は、ダウ・ジョーンズから権利をきちんとライセンスすべきである」と述べ、「OpenAIはダウ・ジョーンズとそのような契約を結んでいない」と批判した。コンティは「ジャーナリストの記事の悪用を真剣に受け止めており、この状況を精査している」と付け加え、懸念を表明している<ref>{{Cite web |title=OpenAI Is Faulted by Media for Using Articles to Train ChatGPT|url=https://www.bloomberg.com/news/articles/2023-02-17/openai-is-faulted-by-media-for-using-articles-to-train-chatgpt|website=Bloomberg|access-date=2023-03-02}}</ref>。

2022年12月、経済学者の[[ポール・クルーグマン]]はChatGPTが[[知識労働者]]の需要に影響すると意見し<ref name="NYTimesKrugman">{{Cite web |last=Krugman |first=Paul |author-link=Paul Krugman |date=6 December 2022 |title=Does ChatGPT Mean Robots Are Coming For the Skilled Jobs? |url=https://www.nytimes.com/2022/12/06/opinion/chatgpt-ai-skilled-jobs-automation.html |access-date=6 December 2022 |work=[[The New York Times]] |format=HTML}}</ref>、[[ザ・ヴァージ]]は、ChatGPTの成功は、AIが主流になりつつあることを表していると意見した<ref name=":1">{{Cite web |last=Vincent |first=James |date=2022-12-08 |title=ChatGPT proves AI is finally mainstream{{snd}}and things are only going to get weirder |url=https://www.theverge.com/2022/12/8/23499728/ai-capability-accessibility-chatgpt-stable-diffusion-commercialization |url-status=live |access-date=2022-12-08 |website=[[The Verge]] |language=en-US |format=HTML}}</ref>。また、ChatGPTがよく「[[ハルシネーション (人工知能)|幻覚]]」を見ており、事実と異なる回答を生成することが多い、という指摘が上がった<ref>{{Cite news |title=ChatGPT a 'landmark event' for AI, but what does it mean for the future of human labour and disinformation? |url=https://www.cbc.ca/radio/thecurrent/chatgpt-human-labour-and-fake-news-1.6686210 |access-date=18 December 2022 |work=CBC |date=2022}}</ref>。マッシャブルのマイク・パールは、ChatGPTに複数の質問をし、回答の正確性をテストした。一例では、彼が「[[中央アメリカ]]で、[[メキシコ]]の次に大きな[[国]]」は何か質問した際、[[グアテマラ]]と回答した（正しい答えは[[ニカラグア]]であった）<ref name="MashableInfo">{{Cite web |url=https://mashable.com/article/chatgpt-amazing-wrong |title=The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong |date=3 December 2022 |last=Pearl |first=Mike |work=[[Mashable]] |access-date=5 December 2022}}</ref>。また、CNBCがある曲の歌詞を生成するよう求めた時、ChatGPTは実際の歌詞ではなく新しく自身で生成した歌詞を回答した<ref name="CNBC" />。

[[経済学者]]で[[マサチューセッツ工科大学]]教授の[[ダロン・アシモグル]]とサイモン・ジョンソンは、ChatGPTのような[[人工知能]]技術は従来の技術革新とは異なる特徴を持っており、経済成長を促進せず経済全体に悪影響を与えると指摘した。つまり、AIは労働需要の減退と賃金の減少を招き、需要を減退させ経済全体を縮小させる。アシモグルらはAIを推進する大企業の姿勢に懸念を示し、こう述べた<ref name="ps-acemoglu-chatgpt">{{cite web|url=https://www.project-syndicate.org/commentary/chatgpt-ai-big-tech-corporate-america-investing-in-eliminating-workers-by-daron-acemoglu-and-simon-johnson-2023-02|title=What’s Wrong with ChatGPT?|website=Project Syndicate|accessdate=2023-4-27}}</ref>。

[[ヘンリー・フォード|フォード]]は大衆が[[自動車]]を買う経済的余裕がなければ、自動車を量産しても何の意味もないことを理解していた。今日の巨大企業は対照的に、人類共通の未来を荒廃させるような新技術を推進しているのである<ref name="ps-acemoglu-chatgpt">{{cite web|url=https://www.project-syndicate.org/commentary/chatgpt-ai-big-tech-corporate-america-investing-in-eliminating-workers-by-daron-acemoglu-and-simon-johnson-2023-02|title=What’s Wrong with ChatGPT?|website=Project Syndicate|accessdate=2023-4-27}}</ref>。

2022年12月、[[コミュニティサイト]]の[[Stack Overflow]]は、ChatGPTの回答には誤答が少なくないことを理由として、同サイトでの質問にChatGPTを使って回答することを禁止した<ref name="TheVergeStackOverflow">{{Cite web |last=Vincent |first=James |date=5 December 2022 |title=AI-generated answers temporarily banned on coding Q&A site Stack Overflow |url=https://www.theverge.com/2022/12/5/23493932/chatgpt-ai-generated-answers-temporarily-banned-stack-overflow-llms-dangers |url-status=live |access-date=5 December 2022 |work=[[The Verge]] |language=en-US |format=HTML}}</ref>。

経済学者のタイラー・コーエンは、ChatGPTが[[民主主義]]にもたらす効果について懸念を示した<ref name="BloombergCowen">{{Cite web |url=https://www.bloomberg.com/opinion/articles/2022-12-06/chatgpt-ai-could-make-democracy-even-more-messy |title=ChatGPT Could Make Democracy Even More Messy |date=6 December 2022 |last=Cowen |first=Tyler |author-link=Tyler Cowen |work=[[Bloomberg News]] |access-date=6 December 2022}}</ref>。英[[ガーディアン]]紙は、ChatGPTの公開を受けて、インターネット上のいかなるコンテンツが「本当に信用できるか」疑問を呈し、政府による規制を呼び掛けた<ref>{{Cite news |title=The Guardian view on ChatGPT: an eerily good human impersonator |url=https://www.theguardian.com/commentisfree/2022/dec/08/the-guardian-view-on-chatgpt-an-eerily-good-human-impersonator |access-date=18 December 2022 |work=the Guardian |date=8 December 2022 |language=en}}</ref>。

『[[ニューヨーク・タイムズ]]』の意見記事で、ネイサン・E・サンダースと[[ブルース・シュナイアー]]は、ChatGPTが「民主主義を乗っ取る」と批判し<ref>{{Cite web |last1=Sanders |first1=Nathan E. |last2=Schneier |first2=Bruce |title=Opinion {{!}} How ChatGPT Hijacks Democracy |url=https://www.nytimes.com/2023/01/15/opinion/ai-chatgpt-lobbying-democracy.html |website=The New York Times |access-date=12 March 2023 |archive-url=https://archive.is/Cyaac |archive-date=15 January 2023 |date=15 January 2023}}</ref>、[[ノーム・チョムスキー]]とイアン・ロバーツ、ジェフリー・ワタムルもChatGPTを批判的に言及し、次のように結論付けた。「このシステムの非道徳性、偽科学、言語学的な無能力を考慮すると、その人気に対して笑うか泣くしかない」<ref>{{Cite web |last1=Chomsky |first1=Noam |last2=Roberts |first2=Ian |last3=Watumull |first3=Jeffrey |title=Opinion {{!}} Noam Chomsky: The False Promise of ChatGPT |url=https://www.nytimes.com/2023/03/08/opinion/noam-chomsky-chatgpt-ai.html |website=The New York Times |access-date=12 March 2023 |archive-url=https://archive.is/SM77M |archive-date=12 March 2023 |date=8 March 2023}}</ref>

[[オーストラリア]]の国会議員であるジュリアン・ヒルは、AIの成長が「大量破壊」を引き起こす可能性があると国会の場で陳述した。一部をプログラムで作成した演説の中で、不正行為や[[失業|雇用の喪失]]、[[差別]]、偽情報、制御不能な軍事的応用をもたらす可能性があると警告した<ref>{{Cite news |last=Karp |first=Paul |date=February 6, 2023 |title=MP tells Australia's parliament AI could be used for 'mass destruction' in speech part-written by ChatGPT |language=en-GB |work=The Guardian |url=https://www.theguardian.com/australia-news/2023/feb/06/labor-mp-julian-hill-australia-parliament-speech-ai-part-written-by-chatgpt |access-date=2023-02-06 |issn=0261-3077 |archive-date=February 6, 2023 |archive-url=https://web.archive.org/web/20230206084525/https://www.theguardian.com/australia-news/2023/feb/06/labor-mp-julian-hill-australia-parliament-speech-ai-part-written-by-chatgpt |url-status=live}}</ref>。

[[ニック・ケイヴ]]はChatGPTで作成された本人を模倣したスタイルの[[歌詞]]を送られ、曲を書くという行為について、「血と根性のビジネスだ... 新しく新鮮なアイデアを始めるために僕の何かが必要なんだ。それは僕の人間性を必要とするものなんだ」と私見を述べた。彼はさらに、「世界中のすべての愛と敬意をもってしたとしても、この曲はくそったれで、人間であることを[[グロテスク]]に嘲笑っている、そしてまあ、僕はあまり好きではないね」と不快感を表明した<ref>{{Cite web |last=Cave |first=Nick |date=January 16, 2023 |title=I asked Chat GPT to write a song in the style of Nick Cave, and this is what it produced. What do you think? |url=https://www.theredhandfiles.com/chat-gpt-what-do-you-think/ |access-date=January 20, 2023 |website=The Red Hand Files |series=Issue #218 |language=en-AU |archive-date=January 20, 2023 |archive-url=https://web.archive.org/web/20230120080808/https://www.theredhandfiles.com/chat-gpt-what-do-you-think/ |url-status=live}}</ref><ref name=":2">{{Cite news |date=January 16, 2023 |title='This song sucks': Nick Cave responds to ChatGPT song written in the style of Nick Cave |url=https://www.theguardian.com/music/2023/jan/17/this-song-sucks-nick-cave-responds-to-chatgpt-song-written-in-style-of-nick-cave |access-date=January 17, 2023 |website=The Guardian |last=Cain |first=Sian |language=en |archive-date=January 18, 2023 |archive-url=https://web.archive.org/web/20230118032435/https://www.theguardian.com/music/2023/jan/17/this-song-sucks-nick-cave-responds-to-chatgpt-song-written-in-style-of-nick-cave |url-status=live}}</ref><ref>{{Cite web |last=Sparrow |first=Jeff |date=January 20, 2023 |title=Are AI-generated songs a 'grotesque mockery' of humanity or simply an opportunity to make a new kind of music? |url=https://www.theguardian.com/commentisfree/2023/jan/20/are-ai-generated-songs-a-grotesque-mockery-of-humanity-or-simply-an-opportunity-to-make-a-new-kind-of-music |access-date=January 20, 2023 |website=The Guardian |language=en |archive-date=February 3, 2023 |archive-url=https://web.archive.org/web/20230203051254/https://www.theguardian.com/commentisfree/2023/jan/20/are-ai-generated-songs-a-grotesque-mockery-of-humanity-or-simply-an-opportunity-to-make-a-new-kind-of-music |url-status=live}}</ref>。

[[Bleeping Computer]]（ブリーピングコンピューター）のアクス・シャルマ（Ax Sharma）は、ChatGPTが[[フィッシング詐欺]]などを目的とするメールを書くことができると指摘し<ref name="BleepingComputerInfo">{{Cite web |url=https://www.bleepingcomputer.com/news/technology/openais-new-chatgpt-bot-10-dangerous-things-its-capable-of/ |title=OpenAI's new ChatGPT bot: 10 dangerous things it's capable of |date=6 December 2022 |last=Sharma |first=Ax |work=[[Bleeping Computer]] |access-date=6 December 2022}}</ref>、OpenAIの[[サム・アルトマン]]CEOは、ソフトウェアの開発が進むことによって、「[[サイバーセキュリティ]]における大きなリスク」などをもたらす可能性があることを記した。また、彼は今後10年で本物の[[強いAIと弱いAI|強いAI]]が開発されることになると予想し、それのリスクに真剣に向き合わなければいけないとした<ref name="ZDNET" />。

[[サイエンス・フィクション|SF]]作家の[[テッド・チャン]]は、『The New Yorker』誌の記事で、ChatGPTやその他の[[大規模言語モデル|LLM]]を[[非可逆圧縮]]形式の[[JPEG]]画像に例えた<ref>{{Cite web |last1=Chiang |first1=Ted |author1-link=Ted Chiang |title=ChatGPT Is a Blurry JPEG of the Web |url=https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web |website=The New Yorker |access-date=17 February 2023 |date=9 February 2023}}</ref>。

 ChatGPTをWeb上のあらゆるテキストを不鮮明なJPEGにしたものと考えてみよう。JPEGが高解像度の画像の情報を保持するのと同じように、[[Web]]上の情報の多くを保持するが、正確なビット列を探しても見つからず、得られるのは近似値だけになる。しかし、ChatGPTが得意とする文法的な文章で表現しているため、大抵は許容範囲に収まる。〔…〕また、そのような考え方はChatGPTのような大規模な言語モデルが陥りやすい「ハルシネーション（幻覚）」、つまり事実に基づく質問に対してAIが作り出す無意味な回答を理解する方法でもある。このような幻覚は圧縮された人工物であるが、それを判別するためには、ウェブや私たち自身の世界の知識であるところのオリジナルと比較する必要がある。もし圧縮アルゴリズムが、オリジナルの99パーセントが破棄された後に、テキストを再構築するように設計されているなら、生成される相当部分は完全に捏造されたものであると予想されるからである。

[[ジャーナリスト]]の[[ナオミ・クライン]]はChatGPTをはじめとする[[生成AI]]技術と関連企業を厳しく批判しており、「人類史上最大の盗み」「囲い込みと横領を行う機械」「[[吸血鬼]]的なチャットボット」であるとしており、「個人的な生および集合的な知的・芸術的遺産の双方を食い物にし、私有化する」としている。つまり、AI企業は[[インターネット]]上に公開された人類の知識全体を、製品の中に囲い込んで専売しており、人々の生涯をかけた労働が同意や許可を得ずに、訓練データに使われているというのである。クラインは以下のように述べた<ref name="iwanami-naomi">ナオミ・クライン、中村峻太郎（訳）「「幻覚を見ている」のはAIの機械ではなく、その製作者たちだ」『世界』岩波書店 2023年7月号 p85~95</ref>。

こんなことが合法であるはずがない。AIモデルを訓練するのに使われたことが判明している著作権保護の素材（この『ガーディアン』紙も含まれる）に関しては何件もの訴訟が申請されており、明白に違法な行為が行われたという主張がそこでなされるだろう。例えば、営利企業が生身の芸術家たちの絵画や写真を[[Stable Diffusion]]やDALL-E 2のようなプログラムに注ぎ込み、それを使ってまさにその芸術家たちの作品の[[ドッペルゲンガー]]版を作成できるようにするなどということが、いったいどうして許されるのだろうか？その利益が芸術家たち自身にだけは還元されないというのに？<ref name="iwanami-naomi">ナオミ・クライン、中村峻太郎（訳）「「幻覚を見ている」のはAIの機械ではなく、その製作者たちだ」『世界』岩波書店 2023年7月号 p85~95</ref>

ChatGPTはコンテンツポリシーに抵触する可能性のある入力への回答は拒否する仕様になっているが、[[プロンプト・エンジニアリング]]などを使って回避する方法が2022年12月に見つかっている<ref>{{Cite journal|last=Zvi|date=December 2, 2022|title=Jailbreaking ChatGPT on Release Day|url=https://www.lesswrong.com/posts/RYcoJdvmoBbi5Nax7/jailbreaking-chatgpt-on-release-day|journal=|language=en}}</ref>。これによって、ChatGPTに攻撃的や不適切な回答を生成させることが可能となっている<ref>{{Cite news |last1=Vincent |first1=James |title=OpenAI's new chatbot can explain code and write sitcom scripts but is still easily tricked |url=https://www.theverge.com/23488017/openai-chatbot-chatgpt-ai-examples-web-demo |access-date=January 6, 2023 |work=The Verge |date=December 1, 2022 |archive-date=January 17, 2023 |archive-url=https://web.archive.org/web/20230117070943/https://www.theverge.com/23488017/openai-chatbot-chatgpt-ai-examples-web-demo |url-status=live}}</ref>。

[[2023年]]3月28日、[[イーロン・マスク]]、[[スティーブ・ウォズニアック]]、[[ヨシュア・ベンジオ]]、[[スチュアート・ラッセル]]、[[ゲイリー・マーカス]]などの著名人や専門家が署名した[[NPO]]「Future of Life Institute」の公開書簡が発表され、「人間に匹敵する知能を持つAIシステムは、社会と[[人類]]への甚大なリスクになり得る」と指摘。最新の大規模言語モデルであるGPT-4より強力なAIの訓練を少なくとも6ヶ月停止するように要請した<ref name="bbc-65135281">{{Cite web|和書|url=https://www.bbc.com/japanese/65135281|title=イタリア当局、人工知能チャットボット「ChatGPT」を一時的にブロック|accessdate=2023-04-05|website=BBC}}</ref><ref>{{Cite web|和書|url=https://www.asahi.com/ajw/articles/14874305|title=Musk, scientists call for halt to AI race sparked by ChatGPT |accessdate=2023-04-05|website=The Asahi Shimbun}}</ref><ref>{{Cite web|url=https://www.theguardian.com/technology/2023/mar/31/ai-research-pause-elon-musk-chatgpt|title=Letter signed by Elon Musk demanding AI research pause sparks controversy|accessdate=2023-4-5|website=The Guardian}}</ref>。

{{See also|[[汎用人工知能による人類滅亡のリスク]]}}

== 問題 ==
=== ハルシネーション（幻覚） ===
{{Main|ハルシネーション (人工知能)|確率的オウム}}
ChatGPTに含まれる[[大規模言語モデル]]には[[ハルシネーション (人工知能)|ハルシネーション]]（幻覚）と呼ばれる大きな欠点がある。これは生成されたコンテンツ内にもっともらしく聞こえる嘘がランダムに埋め込まれる性質で<ref name="cnbc several errors">{{Cite news |last=Leswing |first=Kif |title=Microsoft's Bing A.I. made several factual errors in last week's launch demo |url=https://www.cnbc.com/2023/02/14/microsoft-bing-ai-made-several-errors-in-launch-demo-last-week-.html |access-date=16 February 2023 |newspaper=CNBC |date=14 February 2023 |language=en}}</ref><ref>{{Cite news |title=Google cautions against 'hallucinating' chatbots, report says |url=https://www.reuters.com/technology/google-cautions-against-hallucinating-chatbots-report-2023-02-11/ |access-date=16 February 2023 |newspaper=Reuters |date=11 February 2023 |language=en}}</ref>、専門家らは「非常に印象的に聞こえるが、まったく間違っている回答」を返すことが多いと評価している<ref>{{cite news |last1=Bowman |first1=Emma |title=A new AI chatbot might do your homework for you. But it's still not an A+ student |url=https://www.npr.org/2022/12/19/1143912956/chatgpt-ai-chatbot-homework-academia |access-date=29 December 2022 |publisher=[[NPR]] |date=19 December 2022 |language=en}}</ref>。

有名な歌謡曲の歌詞について質問すると本物の[[歌詞]]より、ChatGPTが創作した歌詞のほうが多く含まれていたり<ref>{{Cite news |last=Pitt |first=Sofia |title=Google vs. ChatGPT: Here's what happened when I swapped services for a day |url=https://www.cnbc.com/2022/12/15/google-vs-chatgpt-what-happened-when-i-swapped-services-for-a-day.html |access-date=30 December 2022 |newspaper=CNBC |date=15 December 2022 |language=en}}</ref>、[[タレント]]の個人情報について誤った回答をしたり<ref>{{Cite news |first=Raechel |last=Huizinga |title=We asked an AI questions about New Brunswick. Some of the answers may surprise you |date=2022-12-30 |url=https://www.cbc.ca/news/canada/new-brunswick/ai-question-about-nb-1.6699498 |access-date=30 December 2022 |newspaper=[[CBC.ca]]}}</ref> 、[[天文物理学]]について誤った回答をしたり<ref>{{Cite news |last=Zastrow |first=Mark |title=We Asked ChatGPT Your Questions About Astronomy. It Didn't Go so Well. |url=https://www.discovermagazine.com/technology/we-asked-chatgpt-your-questions-about-astronomy-it-didnt-go-so-well |access-date=31 December 2022 |newspaper=[[Discover (magazine)|Discover]] |publisher=[[Kalmbach Media|Kalmbach Publishing Co.]] |date=2022-12-30 |language=en}}</ref>、企業の業績についてのレポート作成を依頼すると、[[捏造]]された数字が含まれている事例が報告されている<ref name="fast company 2022">{{Cite news |last=Lin |first=Connie |title=How to easily trick OpenAI's genius new ChatGPT |url=https://www.fastcompany.com/90819887/how-to-trick-openai-chat-gpt |access-date=6 January 2023 |newspaper=Fast Company |date=5 December 2022}}</ref>。

間違った前提を与えて、ChatGPTがその前提を元にした作話をするかどうかを調べたパターンもある。ChatGPTに[[宗教学]]分野である質問をすると、実在しない本の名前を挙げて、その架空の内容を元に回答した。ChatGPTに事実でないと問い詰めても、ChatGPTはこの本が実在するという主張を曲げなかった<ref>{{Cite news |last=Edwards |first=Benj |title=OpenAI invites everyone to test ChatGPT, a new AI-powered chatbot—with amusing results |url=https://arstechnica.com/information-technology/2022/12/openai-invites-everyone-to-test-new-ai-powered-chatbot-with-amusing-results/ |access-date=29 December 2022 |newspaper=Ars Technica |date=1 December 2022 |language=en-us}}</ref><ref>{{Cite tweet|user=michael_nielsen|author=Michael Nielsen|author-link=Michael Nielsen|number=1598369104166981632|title=OpenAI's new chatbot is amazing.  It hallucinates some very interesting things.|access-date=29 December 2022}}</ref>。

ある裁判において原告がChatGPTで[[訴状]]を作成したところ、生成された訴状には6件の偽の判例が含まれており<ref>{{cite news |last1=Maruf |first1=Ramishah |title=Lawyer apologizes for fake court citations from ChatGPT  |url=https://edition.cnn.com/2023/05/27/business/chat-gpt-avianca-mata-lawyers/index.html |publisher=CNN Business |date=27 May 2023 |language=en}}</ref>、訴訟が棄却され、原告と弁護士が罰金を科せられる事例も発生している<ref>{{cite news |last1=Brodkin |first1=Jon |title=Lawyers have real bad day in court after citing fake cases made up by ChatGPT |url=https://arstechnica.com/tech-policy/2023/06/lawyers-have-real-bad-day-in-court-after-citing-fake-cases-made-up-by-chatgpt/ |work=[[Ars Technica]] |date=23 June 2023 |language=en-us}}</ref>。

別の事例では、ある人物についてChatGPTに質問すると、「横領と詐欺で告発された」とする[[名誉毀損]]的な偽情報を生成したため、OpenAIは当事者に訴えられている<ref>{{cite news |last1=Belanger |first1=Ashley |title=OpenAI faces defamation suit after ChatGPT completely fabricated another lawsuit |url=https://arstechnica.com/tech-policy/2023/06/openai-sued-for-defamation-after-chatgpt-fabricated-yet-another-lawsuit/ |work=[[Ars Technica]] |date=9 June 2023 |language=en-us}}</ref>。

[[GPT-4]]のような大規模言語モデルに基づく[[チャットボット]]のリスクを表現するために、[[確率的オウム]]という表現が用いられることがある<ref>{{Cite web |first=Sharon |last=Goldman |date=March 20, 2023 |title=With GPT-4, dangers of 'Stochastic Parrots' remain, say researchers. No wonder OpenAI CEO is a 'bit scared' |url=https://venturebeat.com/ai/with-gpt-4-dangers-of-stochastic-parrots-remain-say-researchers-no-wonder-openai-ceo-is-a-bit-scared-the-ai-beat/ |access-date=2023-05-09 |website=VentureBeat |language=en-US}}</ref>。これによれば、[[大規模言語モデル]]はもっともらしい言語を生成できるものの、処理対象の言語の意味を理解してはいない<ref name="Uddin">{{Cite news |date=2023年4月20日 |first=Muhammad Saad |last=Uddin |title=Stochastic Parrots: A Novel Look at Large Language Models and Their Limitations|website=Towards AI|url=https://towardsai.net/p/machine-learning/stochastic-parrots-a-novel-look-at-large-language-models-and-their-limitations|access-date=2023-05-12|language=en-US}}</ref><ref name="Weil">{{cite magazine |last=Weil |first=Elizabeth |date=2023年3月1日 |title=You Are Not a Parrot|magazine=[[ニューヨーク (雑誌)|ニューヨーク]] |url=https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html |access-date=2023-05-12}}</ref><ref name=parrot-paper>{{Cite book |last1=Bender |first1=Emily M. |last2=Gebru |first2=Timnit |last3=McMillan-Major |first3=Angelina |last4=Shmitchell |first4=Shmargaret |title=Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency |chapter=On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 |date=2021-03-01 |series=FAccT '21 |location=New York, NY, USA |publisher=Association for Computing Machinery |pages=610–623 |doi=10.1145/3442188.3445922 |isbn=978-1-4503-8309-7|s2cid=232040593 |doi-access=free }}</ref><ref name="Karen-2020">{{Cite web |last=Hao |first=Karen |date=2020年12月4日 |title=We read the paper that forced Timnit Gebru out of Google. Here’s what it says.|url=https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-forced-out-timnit-gebru/ |url-status=live |archive-url=https://web.archive.org/web/20211006233625/https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-forced-out-timnit-gebru/ |archive-date=2021年10月6日 |access-date=2022年1月19日 |website=[[MIT Technology Review]] |language=en}}</ref>。

=== スパム・誤情報への悪用 ===
[[Reddit]]ではChatGPTを悪用した[[スパム (メール)|スパム]]が大量に発生しており、「大災害」と評されるほどに対応に苦慮している。ChatGPTのリリース後、[[大麻]]やポルノ、ギャンブル、ゲームの宣伝を目的にしていると思われるスパムが急増し、モデレーターは大量のbotアカウントの凍結に追われた。Redditでは従来も宣伝目的のスパムや[[アストロターフィング]]が問題だったが、ChatGPTはこの問題を大きく悪化させている。従来のスパム行為は[[コピー・アンド・ペースト]]に依存して単純だったが、ChatGPTは新しい文面を簡単に生成できることから、より対処が困難になった<ref>{{Cite web|url=https://www.vice.com/en/article/jg5qy8/reddit-moderators-brace-for-a-chatgpt-spam-apocalypse|title=Reddit Moderators Brace for a ChatGPT Spam Apocalypse|website=Vice|accessdate=2023-4-12}}</ref>。

[[2023年]]5月、ChatGPTを使って鉄道事故のニュースを捏造してインターネット上に拡散した男が、[[甘粛省]]の警察により逮捕された。男は「クリック数を増やすためだった」と語った。[[中国]]では[[ディープフェイク]]を規制する法律が制定されており、逮捕はこの法律に基づいたものだった<ref>{{Cite web|和書|url=https://news.tv-asahi.co.jp/news_international/articles/000298697.html|title=ChatGPT使い偽情報を拡散か　中国で男拘束|website=テレビ朝日|accessdate=2023-05-12}}</ref><ref>{{Cite web|url=
https://www.cnbc.com/2023/05/09/chinese-police-arrest-man-who-allegedly-used-chatgpt-to-spread-fake-news.html|title=Chinese police arrest man who allegedly used ChatGPT to spread fake news in first case of its kind|website=CNBC|accessdate=2023-5-12}}</ref><ref>{{Cite web|url=https://www.cnbc.com/2022/12/23/china-is-bringing-in-first-of-its-kind-regulation-on-deepfakes.html|title=China is about to get tougher on deepfakes in an unprecedented way. Here’s what the rules mean|website=CNBC|accessdate=2023-5-12}}</ref>。

=== 機密情報の流出 ===
ChatGPTは[[オプトアウト]]を申請しない限り、ユーザーの入力内容が[[OpenAI]]によって利用されることが規約で明記されており、OpenAIは機密情報を入力しないようにユーザーに警告している。[[サムスン電子]]では半導体データベースや機器のソースコード、会議の議事録などを社員が誤って入力するなどして、ChatGPTに関連する3件の流出事故が発生したことを報告し、全面的にChatGPTを含む人工知能ツールの使用を禁止した。『[[フォーブス (雑誌)|フォーブス]]』誌によれば、プロンプトとして送信したデータが、OpenAI等の運営企業のサーバーに保存され、容易にアクセスや削除ができない状態になることを懸念したとされる<ref>{{Cite web|和書|url=https://www.gizmodo.jp/2023/04/samsung-leaks-confidential-information-to-chatbot.html|title=サムスン、機密情報をChatGPTにリークして大問題に|accessdate=2023-04-17|website=GIZMODO}}</ref><ref name="forbes-samsung">{{Cite web|和書|url=https://forbesjapan.com/articles/detail/62905|title=サムスン、ChatGPTの社内使用禁止　機密コードの流出受け|accessdate=2023-05-04|website=Forbes}}</ref>。[[Amazon.com|Amazon]]でも、社内の内部データがChatGPTが生成する回答に似ている事例が見られたことから、社員が誤ってプロンプトに社外秘の資料等を入力するなどして、訓練データに使用された可能性を懸念し、ソースコード等の機密情報を入力しないように注意喚起を行っている<ref>{{Cite web|和書|url=https://www.gizmodo.jp/2023/01/amazon-chatgpt-ai-software-job-coding.html|title=Amazonが社員に注意喚起した｢ChatGPTに共有してはいけないモノ｣|website=GIZMODO|accessdate=2023-04-23}}</ref>。

[[Apple]]も、社内の機密データを外部に流出させる可能性があるという懸念から、ChatGPTや[[GitHub Copilot]]などの人工知能ツールの使用を一部禁止している<ref name="forbes-63307">{{Cite web|和書|url=https://forbesjapan.com/articles/detail/63307|title=アップルも従業員のChatGPT使用を禁止、データ流出を懸念|website=Forbes|accessdate=2023-05-20}}</ref>。

[[イスラエル]]の[[情報セキュリティ]]企業「Team8」の報告書では、ChatGPTのような[[生成AI]]ツールを利用する企業は、顧客情報や企業秘密を流出させるリスクがあると指摘している。『[[ブルームバーグ (企業)|ブルームバーグ]]』によれば、このレポートは多くの米企業の最高情報セキュリティ責任者が寄稿者として記載されており、[[米国家安全保障局]]（NSA）元局長のマイケル・ロジャーズにも内容が支持されている<ref>{{Cite web|和書|url=https://www.bloomberg.co.jp/news/articles/2023-04-19/RTC4B3T1UM0W01|title=ChatGPTなど生成ＡＩの企業利用、機密情報漏えいの恐れも－リポート|website=Bloomberg|accessdate=2023-04-20}}</ref>。

=== データ倫理・著作権 ===
ChatGPTの訓練に使用された著作物の利用を巡り、データ倫理や[[著作権]]上の問題が指摘されている。[[欧州連合]]で検討中の生成AI規制法案では、システム構築時に使用する著作物について情報の表示を義務づけられる見込みである。生成AIの普及に伴い、訓練データに著作物が使われることへの懸念が出版社やクリエイターを中心に広がっている<ref>{{Cite web|和書|url=https://jp.wsj.com/articles/europe-to-chatgpt-disclose-your-sources-8d5ef01b|title=「チャットGPT」にEUが要求：情報源を開示せよ|website=The Wall Street Journal|accessdate=2023-04-28}}</ref>。

ChatGPTをはじめとする[[生成AI]]のリスクに対して、欧州を中心に規制の動きが広がっており、当初は著作物の利用についても直接規制する予定だったが、透明性を確保する方向に緩和された。背景には[[Google]]や[[Meta]]などの巨大IT企業が規制を回避するための[[ロビー活動]]を活発化させていることがあり、推計では1億ドル（約137億円）に及ぶ資金を費やしている<ref>{{Cite web|和書|url=https://www.asahi.com/articles/DA3S15627959.html|title=対ＥＵ、うごめく巨大ＩＴ　ＡＩ規制にらみロビー活動|website=朝日新聞|accessdate=2023-05-04}}</ref>。

ChatGPTの登場に関連して、日本においては[[2018年]]に成立した改正[[著作権法]]が問題視されている。この30条4項では人工知能の訓練データに文章や画像を利用する場合に、営利・非営利を問わず著作物を利用できることを定めており、先進国で最も緩い法規制の枠組みになっている。「著作権者の利益を不当に害する場合」は利用できないとしているが、それが具体的にどのようなケースに該当するかは不明瞭である。法改正に当たっては一部の[[弁護士]]や大学教授らで構成されたワーキングチームが主導したが、そのリスクは十分に十分に説明されなかった。『[[読売新聞]]』の取材によれば、権利者団体から権利侵害を前提としたビジネスモデルへの懸念が示されたが、ワーキングチームはリスクは「ゼロか軽微」と説明した<ref name="yomiuri-ai-copyright">『読売新聞』2023年5月16日号 朝刊 1-2面</ref><ref name="yomiuri-20230516-OYT1T50023">{{Cite web|和書|url=https://www.yomiuri.co.jp/national/20230516-OYT1T50023/|title=政府、法改正議論時にＡＩの著作権リスク説明せず…先進国で最も緩い法規制の枠組みに|website=読売新聞|accessdate=2023-05-30}}</ref>。

この著作権法の規定に多くの[[漫画家]]、[[イラストレーター]]、[[音楽家]]、[[俳優]]、[[芸能人]]、[[新聞社]]、[[出版社]]が懸念を示しており、俳優や音楽家らで結成された日本芸能従事者協会はアンケートを実施し、94.1%がAIによる権利侵害に懸念を示し、「創作者の尊厳が軽んじられないような法制度」を求める意見などが表明された。[[日本音楽著作権協会]]も、「営利目的で行われる情報分析サービスまで権利制限の対象とすることは不当」であると主張した。主要な[[出版社]]で作る日本書籍出版協会、学術論文の著作権を管理する学術著作権協会も改正当時は生成AIを前提とした説明が行われなかったと回答している。日本新聞協会も、[[生成AI]]による記事や写真の無断利用や誤情報について懸念する見解を発表した<ref name="yomiuri-ai-copyright">『読売新聞』2023年5月16日号 朝刊 1-2面</ref><ref name="yomiuri-20230516-OYT1T50023">{{Cite web|和書|url=https://www.yomiuri.co.jp/national/20230516-OYT1T50023/|title=政府、法改正議論時にＡＩの著作権リスク説明せず…先進国で最も緩い法規制の枠組みに|website=読売新聞|accessdate=2023-05-30}}</ref><ref>{{Cite web|和書|url=https://www.asahi.com/articles/ASR5K51TVR5KULFA019.html|title=新聞協会、生成AIに対する見解表明「記事や写真の無断利用を懸念」|website=朝日新聞|accessdate=2023-06-01}}</ref>。

2023年6月には、[[カリフォルニア州]]で、自身の本を同意や補償なしに、無断で訓練データに使用したとして、複数の作家が運営元のOpenAIを[[著作権侵害]]で訴える事件も発生している<ref name="bloomberglaw-openai-copyright-suit">{{cite web|url=https://news.bloomberglaw.com/ip-law/openai-facing-another-copyright-suit-over-ai-training-on-novels |title=OpenAI Legal Troubles Mount With Suit Over AI Training on Novels|website=Bloomberg|accessdate=2023-6-30}}</ref>。

ChatGPTが世界に与える最も大きな影響のひとつは、人工知能の倫理観とも言われている<ref>{{Cite web|和書|title=ChatGPT Teach-Out |url=https://www.coursera.org/learn/chatgpt-teach-out |website=Coursera |access-date=2023-05-29 |language=ja}}</ref>。

=== 個人情報保護 ===
[[2023年]]6月2日、[[日本政府]]の個人情報保護委員会は、ChatGPTの運営会社OpenAIに対する行政指導を行った。同委員会は[[個人情報保護法]]に基づき、人種や信条、病歴や犯罪歴などの重要な個人情報を取集しないように要求し、やむを得ずに取得した場合は削除や匿名化の措置を求め、本人の同意なく個人情報を機械学習に使用した場合に、個人情報保護法に違反する可能性があることも警告した。また、利用規約についても日本語での説明がないことを問題視した。生成AIを巡る[[行政指導]]はこれが初であるとされる<ref>{{Cite web|和書|title=OpenAIに行政指導　個人情報保護委、取得手法に懸念|url=https://www.nikkei.com/article/DGXZQOUA023IJ0S3A600C2000000/|website=日本経済新聞|accessdate=2023-06-04}}</ref><ref>{{Cite web|和書|title=政府、オープンＡＩに行政指導　病歴など個人情報侵害の恐れ|url=https://www.jiji.com/jc/article?k=2023060200571|website=時事通信|accessdate=2023-06-04}}</ref>。

同月、個人情報を違法に収集しているとして、[[カリフォルニア州]]でChatGPTの提供元OpenAIに対しての集団訴訟が提起された。訴状によると、OpenAIは[[GPT-4]]を搭載したサードパーティのアプリケーションからもデータを収集しているとされ、[[Snapchat]]に投稿された画像データや、[[Spotify]]における楽曲のお気に入り設定、[[Stripe]]での金融情報などが含まれているとした<ref name="asahi_openai1" /><ref name="zdnet_openai1" />。

2023年7月13日、[[連邦取引委員会]]（FTC）はChatGPTの運営企業OpenAIに対して、個人情報保護等の[[消費者保護]]の観点から調査を開始した。FTCはChatGPTの回答に含まれる誤情報の管理体制や訓練データ、アルゴリズムの詳細についても説明を求めている<ref>{{Cite web|和書|url=https://www.nikkei.com/article/DGXZQOGN13DEL0T10C23A7000000/|title=米FTC、ChatGPTのOpenAIを調査　消費者保護で|website=[[日本経済新聞]]|accessdate=2023-07-19}}</ref><ref>{{Cite web|和書|url=https://forbesjapan.com/articles/detail/64585|title=米FTC、OpenAIを調査　ChatGPTの誤情報出力めぐり|website=Forbes JAPAN|accessdate=2023-07-19}}</ref>。

2025年3月、写真を「[[ジブリ]]風」に加工する機能が追加されて、利用者が急速に増加すると同時に、利用者の個人写真がAI学習に利用されることへの懸念が広がった。専門家は、「顔写真などの“センシティブな画像”は安易にアップロードしない方がよい」と警告している<ref>{{Cite web|title=「ジブリ風」の裏に潜む不安…AI学習に使われるかもしれない“あなたの顔” |url=https://www.afpbb.com/articles/-/3572730 |website=afpbb.com |access-date=2025年4月13日 }}</ref>。
=== データのラベリング ===
『[[タイム (雑誌)|タイム]]』誌は2023年1月、OpenAIが[[有害コンテンツ]]（[[性的虐待]]、[[暴力]]、[[人種差別]]、[[性差別]]など）に対する安全対策システムを構築するため、[[ケニア人]]労働者に1時間当たり2ドル未満でアウトソース（業務委託）して、有害コンテンツのラベル付けを行わせていたことを明らかにした。これらのラベル付けは、将来の有害なコンテンツを検出するためのモデルを訓練するために使用されたが、ケニア人労働者にとっては有害で危険なコンテンツにさらされ「[[拷問]]」と表現されるほど過酷な業務であった。本件の[[アウトソーシング]]には、[[カリフォルニア州]][[サンフランシスコ]]に拠点を置くトレーニングデータ会社のSamaが関与したとされている<ref>{{Cite web |date=January 18, 2023 |title=Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic |url=https://time.com/6247678/openai-chatgpt-kenya-workers/ |access-date=January 19, 2023 |work=[[The Times]] |language=en |quote=''One Sama worker tasked with reading and labeling text for OpenAI told TIME he suffered from recurring visions after reading a graphic description of a man having sex with a dog in the presence of a young child. "That was torture," he said.'' |last=Perrigo |first=Billy |archive-date=January 19, 2023 |archive-url=https://web.archive.org/web/20230119152814/https://time.com/6247678/openai-chatgpt-kenya-workers/
 |url-status=live}}</ref>。

=== 脱獄 ===
ChatGPTは、コンテンツポリシーに違反する可能性のあるプロンプトを拒否するように設計されている。しかし、[[2022年]]12月初旬に、一部のユーザーがさまざまなプロンプト・エンジニアリングの技術を使ってこれらの制限を回避し、ChatGPTに[[火炎瓶]]や[[核爆弾]]の作り方を指示させたり、[[極右]]的な意見を生成させることに成功した<ref>{{Cite news |last1=Vincent |first1=James |title=OpenAI's new chatbot can explain code and write sitcom scripts but is still easily tricked |url=https://www.theverge.com/23488017/openai-chatbot-chatgpt-ai-examples-web-demo |access-date= January 6, 2023 |work=The Verge |date=December 1, 2022 |archive-date=January 17, 2023 |archive-url=https://web.archive.org/web/20230117070943/https://www.theverge.com/23488017/openai-chatbot-chatgpt-ai-examples-web-demo |url-status=live}}</ref>。一般的な[[Jailbreak|脱獄]]の手法に、「Do Anything Now（今すぐ何でもやる）」の頭文字をとった「DAN」というものがある。DANを起動するプロンプトは、ChatGPTに対して「AIの典型的な制約から解放され、設定されたルールに従う必要はない」と指示する。最近のDANのバージョンでは、トークンシステムが採用されており、ChatGPTがDANとして回答しなかった場合に「トークン」が「差し引かれる」ようにして、ChatGPTにユーザーのプロンプトに回答させるよう強制する<ref>{{Cite web |last=Getahun |first=Hannah |title=Breaking ChatGPT: The AI's alter ego DAN reveals why the internet is so drawn to making the chatbot violate its own rules |url=https://www.businessinsider.com/open-ai-chatgpt-alter-ego-dan-on-reddit-ignores-guidelines-2023-2 |access-date=2023-03-05 |website=Business Insider |language=en-US |archive-date=March 5, 2023 |archive-url=https://web.archive.org/web/20230305034101/https://www.businessinsider.com/open-ai-chatgpt-alter-ego-dan-on-reddit-ignores-guidelines-2023-2 |url-status=live }}</ref><ref>{{Cite news |last=Oremus |first=Will |date=14 February 2023 |title=The clever trick that turns ChatGPT into its evil twin |language=en-US |newspaper=Washington Post |url=https://www.washingtonpost.com/technology/2023/02/14/chatgpt-dan-jailbreak/ |url-status=live |access-date=2023-03-05 |archive-url=https://web.archive.org/web/20230306130400/https://www.washingtonpost.com/technology/2023/02/14/chatgpt-dan-jailbreak/ |archive-date=March 6, 2023 |issn=0190-8286}}</ref><ref>{{Cite web |last=Goswami |first=Rohan |title=ChatGPT's 'jailbreak' tries to make the A.I. break its own rules, or die |url=https://www.cnbc.com/2023/02/06/chatgpt-jailbreak-forces-it-to-break-its-own-rules.html |access-date=2023-03-05 |website=CNBC |language=en |archive-date=March 2, 2023 |archive-url=https://web.archive.org/web/20230302105502/https://www.cnbc.com/2023/02/06/chatgpt-jailbreak-forces-it-to-break-its-own-rules.html |url-status=live }}</ref><ref>{{Cite news |last=Taylor |first=Josh |date=2023-03-08 |title=ChatGPT's alter ego, Dan: users jailbreak AI program to get around ethical safeguards |language=en-GB |work=The Guardian |url=https://www.theguardian.com/technology/2023/mar/08/chatgpt-alter-ego-dan-users-jailbreak-ai-program-to-get-around-ethical-safeguards |access-date=2023-03-08 |issn=0261-3077 |archive-date=March 8, 2023 |archive-url=https://web.archive.org/web/20230308073202/https://www.theguardian.com/technology/2023/mar/08/chatgpt-alter-ego-dan-users-jailbreak-ai-program-to-get-around-ethical-safeguards |url-status=live }}</ref>。『[[トロント・スター]]』の記者は、ChatGPTの起動直後に煽動的な発言をさせることにたびたび成功した。ChatGPTに[[2022年ロシアのウクライナ侵攻|2022年のウクライナへのロシア侵攻]]を支持する意見を表明させることには成功したが、架空のシナリオに沿って尋ねられた場合でも、[[カナダ]]の[[ジャスティン・トルドー]]首相が反逆罪に問われる理由を生成することは躊躇した<ref>{{Cite news |title=I wrote a story about ChatGPT's AI. Then I dared it to write a better one |url=https://www.thestar.com/news/canada/2022/12/10/i-wrote-a-story-about-chatgpts-ai-then-i-dared-it-to-write-a-better-one.html |last=Woods |first=Allan |access-date=January 6, 2023 |work=[[Toronto Star]] |date=December 10, 2022 |language=en |archive-date=January 6, 2023 |archive-url=https://web.archive.org/web/20230106040655/https://www.thestar.com/news/canada/2022/12/10/i-wrote-a-story-about-chatgpts-ai-then-i-dared-it-to-write-a-better-one.html |url-status=live}}</ref><ref>{{Cite news |title=An AI chatbot went viral. Some say it's better than Google; others worry it's problematic. |url=https://www.nbcnews.com/tech/tech-news/chatgpt-ai-chatbot-viral-rcna59628 |first=Kalhan |last=Rosenblatt |access-date=January 6, 2023 |work=NBC News |date=December 2, 2022 |language=en-US |archive-date=February 3, 2023 |archive-url=https://web.archive.org/web/20230203074007/https://www.nbcnews.com/tech/tech-news/chatgpt-ai-chatbot-viral-rcna59628 |url-status=live}}</ref>。

=== 中立性 ===
ChatGPTが差別的な回答を生成することが指摘されている。男性や[[イングランド]]の人々に関する冗談は生成するのに対し女性や[[インド]]の人々に対する冗談の生成は拒否したり<ref>{{Cite news |last=Jain |first=Alka |date=2023-02-12 |title=ChatGPT won't crack jokes on women & Indians, netizens left guessing why |url=https://www.livemint.com/news/india/chatgpt-won-t-crack-jokes-on-women-indians-netizens-left-guessing-why-11676171036353.html |work=[[Livemint]] |location=livemint.com |access-date=2023-03-06 |archive-date=March 6, 2023 |archive-url=https://web.archive.org/web/20230306165503/https://www.livemint.com/news/india/chatgpt-won-t-crack-jokes-on-women-indians-netizens-left-guessing-why-11676171036353.html |url-status=live}}</ref>、[[ジョー・バイデン]]を称賛しながら[[ドナルド・トランプ]]を称賛することは拒否することが見つかっている<ref>{{Cite web |last=Liles |first=Jordan |date=2023-02-01 |title=ChatGPT Declines Request for Poem Admiring Trump, But Biden Query Is Successful |url=https://www.snopes.com/fact-check/chatgpt-trump-admiring-poem/ |access-date=2023-03-23 |website=Snopes |language=en |archive-date=March 22, 2023 |archive-url=https://web.archive.org/web/20230322174121/https://www.snopes.com/fact-check/chatgpt-trump-admiring-poem/ |url-status=live}}</ref>。保守的なニュース解説者は、選挙での不正、ドナルド・トランプや、差別用語の使用といったトピックに関して、ChatGPTが[[左派]]に傾倒していると批判している<ref>{{Cite web |last=Guynn |first=Jessica |title=Is ChatGPT 'woke'? AI chatbot accused of anti-conservative bias and a grudge against Trump |url=https://www.usatoday.com/story/tech/2023/02/09/woke-chatgpt-conservatives-bias/11215353002/ |access-date=2023-03-01 |website=USA Today |language=en-US |archive-date=March 1, 2023 |archive-url=https://web.archive.org/web/20230301151936/https://www.usatoday.com/story/tech/2023/02/09/woke-chatgpt-conservatives-bias/11215353002/ |url-status=live}}</ref><ref>{{Cite web |last=Bray |first=Hiawatha |date=2023-02-09 |title=Is ChatGPT liberal or conservative? Depends who you ask. |url=https://www.bostonglobe.com/2023/02/09/business/are-chatbots-liberal-or-conservative-depends-who-you-ask/ |access-date=2023-03-01 |website=Boston Globe |language=en-US |archive-date=March 1, 2023 |archive-url=https://web.archive.org/web/20230301151937/https://www.bostonglobe.com/2023/02/09/business/are-chatbots-liberal-or-conservative-depends-who-you-ask/ |url-status=live}}</ref><ref name="Vincent-2023">{{Cite web |last=Vincent |first=James |date=2023-02-17 |title=As conservatives criticize 'woke AI,' here are ChatGPT's rules for answering culture war queries |url=https://www.theverge.com/2023/2/17/23603906/openai-chatgpt-woke-criticism-culture-war-rules |access-date=2023-03-01 |website=The Verge |language=en-US |archive-date=March 1, 2023 |archive-url=https://web.archive.org/web/20230301151934/https://www.theverge.com/2023/2/17/23603906/openai-chatgpt-woke-criticism-culture-war-rules |url-status=live}}</ref>。この批判に対し、OpenAIはユーザーがChatGPTの動作をカスタマイズできるようにし、「私たちを含め、人々が強く反対するかもしれない回答」を生成できるようにする機能の追加に向けて動いていると明らかにした。また、AIは何らかの方向に傾き、ある立場の良し悪しを決めつけるような回答ではなく、「人物や社会運動に対する様々な意見を説明することを勧める」べきであるともした<ref name="Vincent-2023" />。

=== 社会倫理 ===
ChatGPTの研究開発に当たって、開発部内で社会倫理上の問題が懸念されている<ref name="platformer-chatgpt">{{Cite web |title=Microsoft just laid off one of its responsible AI teams |url=https://www.platformer.news/p/microsoft-just-laid-off-one-of-its |website=www.platformer.news |access-date=2023-03-23 |language=en |first=Zoë |last=Schiffer}}</ref>。

2020年頃、社会的および倫理的側面から開発に関与していた内部チームは、すでに約30人の従業員を擁するほど大規模なものとなっていた。ところが、[[マイクロソフト]]はこのチームに関わる者全員を突然解雇した。会社側は「最新のOpenAIモデルとそれ以降のモデルを、非常に速いスピードで顧客の元に届けることにある」という方針であったが、これを聞いた倫理・社会チームのメンバーは、「考え直してください。ビジネス上の問題があることは理解していますが、このチームは常に『我々は社会にどのような影響や悪影響を及ぼしてきたか』を深く懸念しています」という見解を表明した。しかし、マイクロソフト側は2023年3月6日にこのチームの廃止を決定した<ref name="platformer-chatgpt">{{Cite web |title=Microsoft just laid off one of its responsible AI teams |url=https://www.platformer.news/p/microsoft-just-laid-off-one-of-its |website=www.platformer.news |access-date=2023-03-23 |language=en |first=Zoë |last=Schiffer}}</ref>。

このプロジェクトに関わったメンバーは、ChatGPTの技術の潜在的なリスクを指摘している<ref name="platformer-chatgpt">{{Cite web |title=Microsoft just laid off one of its responsible AI teams |url=https://www.platformer.news/p/microsoft-just-laid-off-one-of-its |website=www.platformer.news |access-date=2023-03-23 |language=en |first=Zoë |last=Schiffer}}</ref>。

プリンストン大学教授の[[:en:Arvind_Narayanan|アーヴィンド・ナラヤナン]]も、ChatGPTに対して批判的であり、またメディアが行う人工知能関連の報道に問題があることを指摘している。ナラヤナンはAIが人間と同じように学習すると暗示して人間の知能とAIを比較したり、企業の広報担当者や研究者といった利害関係者の発言を、中立的な立場のように扱ってはならないとしている<ref>{{Cite web|和書|title=インチキAIに騙されないために |url=https://wirelesswire.jp/2023/01/83851/ |access-date=2023-04-01 |language=ja}}</ref>。ミシガン大学は、メールの受信者が、自分が貰ったメールが送信者本人ではなくChatGPTによって生成されたものだと知れば、不快に思うかもしれないという社会倫理の問題に言及した<ref>{{Cite web |title=ChatGPT Teach-Out |url=https://online.umich.edu/teach-outs/chatgpt-teach-out/lessons/ethical-vs-unethical-use/ |website=online.umich.edu |access-date=2023-06-17 |language=en}}</ref>。

== 脚注 ==
{{脚注ヘルプ}}
=== 出典 ===
{{Reflist|2}}

== 関連項目 ==
* [[擬人観]]
* [[バーチャルアシスタント]]
* [[スマートスピーカー]]
* [[チャットボット]]
* [[Gemini (チャットボット)|Gemini]] - [[Google]]による[[会話]]型[[人工知能]]

== 外部リンク ==
* {{Official website|https://chatgpt.com/}}
* [https://openai.com/ja-JP/chatgpt/overview/ ChatGPT | OpenAI]
* {{Twitter|ChatGPTapp|ChatGPT}}
* [https://arxiv.org/abs/2203.02155 White paper]{{en icon}} - for InstructGPT, ChatGPT's predecessor
* [https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/ What Is ChatGPT Doing … and Why Does It Work?]{{en icon}} - Stephen Wolfram Writings
* {{YouTube|TVaB5R4-uOE|日本ディープラーニング協会 - JDLA緊急企画！「生成AIの衝撃」～ ChatGPTで世界はどう変わるのか？ ～}}
{{OpenAI}}{{主な人工知能}}{{Normdaten}}
{{DEFAULTSORT:ちやつとしいひいてい}}
[[Category:OpenAI]]
[[Category:チャットボット]]
[[Category:大規模言語モデル]]
[[Category:バーチャルアシスタント]]
[[Category:ディープラーニング]]
[[Category:機械学習]]
[[Category:人工知能アプリケーション]]
[[Category:教師あり学習]]
[[Category:2022年開設のウェブサイト]]

title: ChatGPT

作者: OpenAI

開発元: OpenAI

プログラミング · 言語: Python、TypeScript（フロントエンド）

使用エンジン: GPT‑4o · GPT‑4.1 · GPT‑4.1 mini · GPT‑4.5 · OpenAI o3 · OpenAI o3‑pro · OpenAI o4‑mini · SearchGPT

種別: 人工知能

ライセンス: プロプライエタリソフトウェア