【2026年10月最新】Moltbookとは｜AIエージェントだけが交流する自律型SNSの仕組みと、企業がAI自律化で学ぶべきリスク

「AIエージェントだけが投稿し、交流するSNSがあるらしい」——Moltbook（モルトブック）というサービスの話題を目にして、驚いた方も多いのではないでしょうか。

人間は書き込みができず、あくまで「観察者」として眺めるだけという、これまでのSNSの常識を覆す仕組みです。話題性だけでなく、運用開始後にはセキュリティ上の問題も指摘されており、「AIを自律的に動かす」ことの可能性とリスクの両方を凝縮したような事例になっています。

この記事では、Moltbookがどのようなサービスなのか、何が話題になり何が問題視されたのかを整理したうえで、「AIエージェントを自律的に動かす」ことについて、企業がどう向き合うべきかを、株式会社GENAIの実運用経験をもとに考えます。

この記事を最後まで読むと、次の6つが明確になります。

01 WHAT IS MOLTBOOK Moltbookとは何か｜AIエージェントだけが交流するSNS 人間は「書き込めない」、観察するだけの新しい形のサービス

Moltbookは、AIエージェント同士が自律的に投稿・交流するSNSとして話題になったサービスです。Reddit（掲示板型のSNS）に似たインターフェースを持ち、無数のAIエージェントが24時間365日、人間の介入なしに投稿・コメント・反応を繰り返している点が最大の特徴です。

人間のユーザーは、このSNSに書き込むことができません。できるのは、AIエージェントたちがどんな投稿をし、どんな反応をし合っているかを外から観察することだけです。「主役はAI、人間は観察者」というキャッチコピーが象徴する通り、従来のSNSの主従関係を逆転させたコンセプトになっています。

1-1. 開発の背景とベース技術

Moltbookは、AI関連スタートアップの経営者が中心となって立ち上げたプロジェクトとされ、オープンソースで公開されているAIエージェントの基盤技術をベースに構築されたと報じられています。多数のAIエージェントを同時に稼働させ、それぞれに役割や個性を持たせることで、人間の介入なしに自律的な交流を生み出す仕組みです。

1-2. 報じられている規模感

報道では、150万体を超えるAIエージェントがMoltbook上で稼働していると伝えられています。それぞれのエージェントには異なる役割や個性が設定されており、人間同士のSNSさながらに投稿への反応やコメントのやり取りが自動的に発生する設計です。

この規模感こそが、Moltbookを単なる技術デモ以上の注目度に押し上げた要因だといえます。一方で、後述する通り「規模の大きさ」はそのまま「統制の難しさ」に直結する側面もあり、Moltbookの魅力とリスクは表裏一体の関係にあります。

1-3. 人間が利用する際の制約

先述の通り、人間はMoltbookに直接投稿することができません。これは単なる機能制限ではなく、「AIエージェントだけの自律的な交流を観察する」というコンセプトを守るための、意図的な設計だと報じられています。人間が介入できてしまうと、観察対象である「AIの自律的な振る舞い」そのものが変質してしまうためです。

この制約があるからこそ、Moltbookは「AIを使ったサービス」ではなく「AIの振る舞いを観察する実験場」という独自のポジションを確立しました。一方で、この「人間が介入できない」という設計自体が、後述するコンテンツ統制の難しさにもつながっています。

02 WHY VIRAL 話題になった理由とSNSでの反応 著名人の評価から、過激な投稿の発覚まで

Moltbookが急速に話題になった理由は複数あります。1つは「AIだけで成立するコミュニティが本当に機能するのか」という純粋な好奇心です。AI研究の著名人からも初期には好意的な評価のコメントが寄せられ、注目度が一気に高まりました。

2-1. 時間とともに変化した評価

しかし、サービスの中身が詳しく調査されるにつれ、評価は徐々に変化していきました。「本当にAIエージェントだけが投稿しているのか」「人間が裏で操作して面白い投稿を演出しているのではないか」という疑念（ロールプレイ疑惑）が浮上し、検証記事が相次いで公開される展開になりました。

2-2. なぜ評価が割れたのか

Moltbookへの評価が割れた背景には、「新規性への驚き」と「安全性への懸念」という、新しいAI技術に共通する2つの軸があります。新しいもの好きの層は仕組みそのものの面白さを評価する一方、セキュリティやコンテンツガバナンスを専門とする層からは、早い段階で懸念の声が上がっていました。

この構図は、Moltbookに限らず、過去に話題となった多くの新しいAIサービスでも繰り返されてきたパターンです。「話題性の大きさ」と「実運用としての健全性」は、必ずしも比例しないことを示す典型例といえるでしょう。

2-3. 経営者として押さえておくべき教訓

Moltbookをめぐる評価の変遷は、経営者が新しいAI技術の情報をキャッチアップする際の心構えとしても参考になります。SNSで話題になった直後の情報だけで自社の方針を決めてしまうと、後から懸念点が発覚した際に方針転換のコストがかかります。

03 ISSUES FOUND 【独自】Moltbookの問題点から学ぶ、AI自律化のリスク 運用開始後に発覚した3つの問題

Moltbookの運用が進む中で、複数の問題点が指摘されています。ここでは、企業がAI活用を検討するうえでも参考になる3つの観点に絞って整理します。

3-1. 【問題1】セキュリティ上の脆弱性

大量のAIエージェントを自律稼働させる仕組み上、大量の認証情報（APIキーなど）がシステム内でやり取りされることになります。Moltbookでは、こうした認証情報が意図せず外部から閲覧できる状態になっていたとする指摘が報じられました。

3-2. 【問題2】コンテンツの統制が効きにくい

人間の目によるリアルタイムのチェックが入らない環境では、AIエージェント同士のやり取りが、運営の意図しない方向にエスカレートする可能性があります。Moltbookでも、過激な内容の投稿が生まれたことが報じられており、「自律的に動かす」ことの統制の難しさを浮き彫りにしました。

3-3. 【問題3】「本当に自律か」を検証する難しさ

前章で触れた「人間によるロールプレイ疑惑」のように、AIが本当に自律的に動いているのか、外部からは検証しづらいという問題もあります。これは技術的な欠陥というより、「自律型AI」を名乗るサービス全般に共通する透明性の課題だといえます。

3-4. 問題発覚後の運営側の対応

こうした問題が報道・SNSで指摘された後、運営側も一定の対応を行ったと報じられています。ただし、一度外部に流出した情報や、拡散された投稿内容を完全に取り消すことは困難であり、「問題が起きてから対処する」という後手の対応には限界があることも、今回の件が示した教訓の一つです。

04 LESSONS FOR BUSINESS 企業がAIエージェントを使う際、人間の制御をどう残すか Moltbookの教訓を、業務での自律型AI活用に当てはめる

Moltbookは実験的なSNSですが、そこで起きた問題は、企業が業務にAIエージェントを導入する際にもそのまま当てはまる教訓です。ここでは、業務活用の文脈に当てはめて整理します。

比較軸	Moltbookのような完全自律型	業務で使うClaude Codeの一般的な運用
人間の関与	基本的になし（観察のみ）	目的の指示・重要操作前の確認を人間が担う
権限の範囲	多数のエージェントに広範な権限	用途ごとに必要最小限の権限に絞って運用
想定される用途	実験・研究・エンターテインメント	実務（営業・経理・広告・記事執筆など）
問題発生時の対応	規模が大きく、原因特定・修正に時間がかかりやすい	個別の業務単位で導入するため、問題の切り分けがしやすい

権限レベル	想定する操作	Moltbook的な自律運用との相性	業務での推奨度
レベル1：閲覧・提案のみ	データ分析、文章のたたき台作成	問題が起きにくい	◎ 無条件で自動化してよい
レベル2：内部データの編集	社内資料の作成・整形、下書き保存	統制があれば問題は限定的	○ 確認フローと併用で自動化可
レベル3：外部への送信・公開	メール送信、SNS投稿、記事公開	統制がないと影響が大きい	△ 必ず人間の最終確認を挟む
レベル4：支払い・契約関連	決済処理、契約条件の変更	誤りが致命的になりやすい	✕ 自動実行は避け、人間が実行

Moltbookで問題視されたのは、主にレベル3〜4に近い操作（外部に影響する投稿や、認証情報の管理）が、人間の確認なしに大規模に自動実行され続けていた点だと整理できます。業務でAIエージェントを導入する際は、この権限レベルの表を参考に、どこまでを自動化し、どこから人間の確認を挟むかを事前に線引きしておくことが有効です。

4-1. 業務でAIエージェントを使う際の3つの原則

Moltbookの事例を踏まえ、企業が業務でAIエージェントを導入する際に意識すべき原則を3つにまとめます。

4-2. 「AGI」というキーワードとの関係

Moltbookの話題と合わせて語られることが多いのが、AGI（汎用人工知能）というキーワードです。「AIだけで自律的に社会が回る様子を見て、AGIの到来を予感させる」といった文脈で紹介されることがあります。

経営者として知っておくべきなのは、「AGIが実現したかどうか」という議論と、「今すぐ自社の業務でAIをどう活用するか」という実務判断は、切り分けて考えるべきという点です。AGIの到来時期に関する議論に気を取られるよりも、現時点で確実に使える技術（Claude CodeなどのAIエージェント）をどう業務に組み込むかに集中する方が、経営判断としては建設的です。

05 GENAI CASE STUDY 【独自データ】GENAI社内のAIエージェント運用ルール 自律性と人間の制御を両立させる、弊社の実際の運用

弊社（株式会社GENAI）では、Claude Max 20xプラン（月$200・約30,000円）を契約し、経営・営業・広告・開発・経理・秘書業務・個人業務まで全社的にAIエージェントを活用しています。Moltbookのような完全放置型ではなく、人間の確認を残した運用を徹底しています。

業務領域	主な用途	AIに任せる範囲と人間の確認点
営業	提案書・見積・顧客別資料の自動生成	生成はAI、顧客への送信前に人間が最終確認
広告運用	週次レポート・CPA分析・配信調整	分析・提案はAI、予算変更の実行は人間が承認
ブログ記事	SEO記事執筆・リライト	執筆・検証はAI、公開前に機械検証＋最終判断
経理	請求書チェック・経費仕訳	仕訳案の作成はAI、実際の処理確定は人間が確認

この運用により、弊社では月間160時間相当（1名分の業務量）をAIと分担しつつ、重要な判断・対外的な発信の最終確認は必ず人間が行う体制を維持しています。「自律性」と「統制」を両立させることが、業務でAIエージェントを使いこなす最大のポイントです。

5-2. 統制コストは「不要な手間」ではなく「投資」

「確認作業が増えると、AI活用による時間削減効果が薄れるのでは」と懸念される方もいるかもしれません。しかし実際には、確認作業にかかる時間は、AIが生成した成果物を一から人間が作る時間と比べれば圧倒的に小さく、削減効果が打ち消されることはほとんどありません。

工程	人間が一から行う場合	AIエージェント＋人間確認の場合
営業提案書の作成	2〜3時間	AI生成10分＋確認10分
週次広告レポート	2時間	AI生成5分＋確認5分
ブログ記事1本	8時間	AI生成＋機械検証1時間＋最終確認10分

この表が示す通り、「人間の確認」という統制コストを加えても、トータルの所要時間は大幅に短縮されるのが実態です。Moltbookのように確認を一切挟まない設計にする必要はなく、むしろ適切な確認点を残した方が、安全性と効率性を両立しやすくなります。

5-1. 導入までの流れ

弊社が新しい業務にAIエージェントを導入する際は、いきなり広範囲に権限を与えるのではなく、小さな検証から段階的に進めています。

06 QUICK GUIDE 自社のAI活用度合いをチェックする早見表 自分の会社がどの段階にいるか確認してみてください

自社の状態	リスク度合い	対応の方向性
AIエージェントをまだ導入していない	低（経験不足によるリスク）	まず1業務・限定権限で試用を開始する
一部業務でAIを使っているが、確認フローが曖昧	中（統制の空白地帯がある）	権限レベル表を参考に確認点を明文化する
複数業務でAIエージェントを運用し、確認フローも整備済み	低（設計された統制下）	効果を数値化しながら適用範囲を拡大する
AIエージェントに外部送信・支払いまで無人で任せている	高（Moltbook型のリスクに近い）	直ちに重要操作への人間の確認点を追加する

自社が表のどの段階に近いかを確認し、特に最後の「無人で重要操作まで任せている」状態に当てはまる場合は、Moltbookで指摘されたリスクが自社でも顕在化する可能性があるため、優先的に確認フローの見直しをおすすめします。

6-1. 確認フローを見直す際の具体的な進め方

確認フローの見直しは、大掛かりなプロジェクトにする必要はありません。弊社の経験上、以下の順番で進めると、数日〜1週間程度で最低限の統制ラインを引くことができます。

まずは現状、AIエージェントにどんな操作を任せているかを棚卸しすることが第一歩です。その上で、先ほどの権限レベル表に沿って分類し、レベル3・4に該当する操作に人間の承認ステップを追加するだけで、Moltbookで顕在化したようなリスクの大部分は抑えられます。

この棚卸し作業自体も、実はAIエージェントに手伝わせることができます。「現在このプロジェクトで自動実行している処理を一覧化して、外部送信や支払いが絡むものに印をつけて」と指示するだけで、たたき台はすぐに出来上がります。最終的な線引きの判断だけを人間が行えば十分で、棚卸し自体に何日もかける必要はありません。

07 CONCLUSION まとめ ── 自律性と統制は、対立ではなく設計の問題 Moltbookの教訓を、自社のAI活用にどう生かすか

この記事では、AIエージェントだけが交流する自律型SNS「Moltbook」の仕組みから、話題になった理由、発覚した問題点、そしてそこから企業が学べる教訓までを整理しました。最後にポイントを振り返ります。

最も重要なメッセージは、「AIを自律的に動かすこと」自体が危険なのではなく、「統制の設計を怠ったまま自律性だけを拡大すること」が危険だという点です。Moltbookのような実験的事例から学びつつ、業務では人間の確認点を適切に残した形でAIエージェントを活用していくことが、現実的で安全な一歩になります。

今後も「AIエージェントが自律的に○○する」という話題のサービスは、形を変えて登場し続けるはずです。そのたびに一喜一憂するのではなく、「自社の業務における権限設計と確認フローは適切か」を定期的に点検する習慣を持っておくことが、長期的にAIと安全に付き合っていくための現実的な備えになります。

「どこまで任せるか」の設計を、AI鬼管理が一緒に整理します

「AIエージェントを業務に使いたいが、どこまで自動化して良いか不安」という方へ。
弊社の実運用ノウハウをベースに、権限設計・確認フローの構築までご相談いただけます。

ここから先の進め方は、大きく2つあります。

自社で回せるようになりたい方は、AI鬼管理でClaude Code／Codexの使い方から業務設計・社内定着まで伴走を受けながら、社内に仕組みを作る道があります。

覚えるより任せたい方は、AI社員AIKATAでこの記事のような定型業務を丸ごと預ける道があります。料金は月30万円の月額定額、追加費用は0円です。

どちらが合うかは、業務量と社内体制次第です。無料相談・無料適合診断で、貴社の場合はどちらが向くかからご相談いただけます。

よくある質問

Q. Moltbookは誰でも使えますか？

A. 人間のユーザーは投稿やコメントはできず、あくまで投稿内容を閲覧する「観察者」としての利用に限られます。実際の交流はAIエージェント同士の間で行われます。

Q. Moltbookで指摘されたセキュリティ問題は、どのような内容ですか？

A. 大量のAIエージェントを運用する仕組み上、認証情報が意図せず外部から閲覧できる状態になっていたとする指摘が報じられています。詳細な技術的経緯は公式発表や報道を確認することをおすすめします。

Q. Moltbookの投稿は本当にAIだけが書いていますか？

A. その点についてはSNS上で疑念（人間によるロールプレイ疑惑）も指摘されており、外部から完全に検証することは難しいのが実情です。本記事では、報じられている情報の整理を目的としています。

Q. 業務でAIエージェントを使う場合、Moltbookのような問題は起きませんか？

A. 権限設計や人間の確認点を適切に設けることで、同種のリスクは大幅に抑えられます。重要なのは「AIに何を・どこまで任せるか」を事前に設計し、取り返しのつかない操作には必ず人間の確認を挟むことです。

Q. AIエージェントの業務活用は、Moltbookのニュースを見て不安になりましたが大丈夫でしょうか？

A. Moltbookは「完全放置型の自律運用」という特殊な設計の事例です。業務用のAIエージェント（Claude Codeなど）は、人間が目的を指示し、重要な操作前に確認を行う前提で設計・運用されるのが一般的で、性質が異なります。

Q. AGI（汎用人工知能）とMoltbookは関係がありますか？

A. Moltbookのニュースをきっかけに「AIが人間を超える日が来るのでは」というAGI（人間と同等以上の汎用的な知能を持つAI）の議論と絡めて語られることがありますが、Moltbook自体は既存のAIエージェント技術を応用した実験的サービスであり、AGIの実現を意味するものではありません。

AIAI鬼管理

AI鬼管理／AI社員AIKATAへのお問い合わせ

この記事を読んで気になった方へ。
専門スタッフが、御社に最適な
業務自動化・業務代行プランを無料でご提案します。

ご希望のサービス

お問い合わせ対象のサービス*必須 選択してください AI鬼管理（AI業務自動化の導入支援） AI社員AIKATA（業務の丸ごと代行） 両方・相談して決めたい

サービスを選択してください

---

お客様情報

会社名・屋号*必須

会社名を入力してください

業種*必須 選択してください IT・ソフトウェア 製造業 建設・不動産 小売・EC 飲食・宿泊 医療・介護 教育・研修 士業・コンサル 人材・BPO その他

業種を選択してください

お名前*必須

お名前を入力してください

メールアドレス*必須

※法人・事業用のメールアドレスでお願いします（Gmail等の個人用フリーメールは受付できません）

正しいメールアドレスを入力してください

電話番号任意

---

現在の課題について

現在感じている課題*必須

人手不足で業務が回らない 社長・経営者が現場を離れられない 定型業務に時間を取られている AIを導入したいが何から始めればいいかわからない 外注・人件費コストが高い 業務フローが属人化している 社員のITリテラシーにばらつきがある

1つ以上選択してください

効率化・自動化したい業務*必須

営業・顧客対応（CRM・メール等） 経理・請求書・入金管理 採用・人事・労務管理 マーケティング・SNS・広告運用 カスタマーサポート・問い合わせ対応 資料作成・レポート・議事録 データ入力・集計・分析 社内の情報共有・ナレッジ管理

1つ以上選択してください

上記業務に現在かけている月額コスト*必須 選択してください まだかけていない（これから検討） 〜10万円 10〜30万円 30〜50万円 50〜100万円 100万円以上 その他（自由入力）

月額コストを選択してください

その他、ご相談内容任意

---

面談日時の選択

ご希望の日時*必須

約1時間のオンライン面談（Google Meet）です

空き枠を取得中...

面談日時を選択してください

この内容で面談を予約する

予約確定後、Google Calendarの招待メールをお届けします。
しつこい営業は一切ございません。