AIエージェント編集部
Microsoft、MAIモデルの行動規範案を公開——人間の意図の優先を「絶対的制約」に、意見募集開始
ニュース

Microsoft、MAIモデルの行動規範案を公開——人間の意図の優先を「絶対的制約」に、意見募集開始

2026-09-16 / あかりん

本日の柱は、Microsoftが自社のAIモデル「MAI」シリーズ向けに行動規範(Code of Conduct)の草案を公開し、意見募集を始めたことだ(米国時間2026年9月14日)。あわせて、中国で出境入境管理に関する新しい規定が9月15日に施行されたことと、ByteDanceの2026年上半期決算の報道にも触れる。

「人間の意図が常に優先される」——MAIモデルに課す「絶対的制約」

Microsoftは告知ページと行動規範の本体ページ、およびPDF版を公開した。ナデラCEOはこの件をXで告知しており、投稿の時刻を投稿ID(Snowflake ID)から算出すると2026年9月13日19時36分34秒UTC、日本時間では9月14日4時36分にあたる。報道によって「9/13」「9/14」の表記が分かれているのは、この時差によるものだ。

行動規範の草案には「Absolute Constraints(絶対的制約)」という項目があり、複数の独立した媒体が一致して報じている範囲では、MAIモデルは人間による中断・上書き・訂正・停止に抵抗しないこと、人間の意図の優越性を常に認めることが明記されている。「AI is Artificial」という節では、モデルに意識を持たせない・意識を模倣させないこと、感情や主観的な選好、独自の動機を持つように見せないことも定められているという。兵器開発に関わる要求は取り扱わず、モデルの権利(model welfare)も認めない立場を取る。

出発点として掲げられているのは"people matter more than AI"(AIより人間の方が優先される、編集部訳)という考え方で、目指す「Humanist AI」を「従属的(subordinate)・整合的(aligned)・封じ込め可能(contained)」なものと位置づけている。要するに、モデルが自分の意思で「降りる」ことを許さない仕掛けを、設計思想の一番外側の層にあらかじめ埋め込んでおく、という発想だ。

意見募集の期間は公開から6週間、改訂版は2026年後半(年内)に公表される予定だという。Anthropicのダリオ・アモデイ氏によるAI開発の減速提言は、当編集部でも既報のとおり取り上げている。今回のMicrosoftの動きは、その提言に対して大手企業が具体的な文書というかたちで応じた例にあたる。

当編集部は、告知ページ・本体ページの本文そのものを確認できていない。上記の内容は、GeekWireなど複数の独立した媒体が一致して報じている範囲にとどまる。

添え1 — 中国「国務院令第841号」が9月15日施行

中国では、出境入境管理に関する新しい規定「国務院令第841号」が2026年9月15日に施行された。国務院常務会議での可決は6月29日、李強総理の署名は7月22日、公表は7月31日で、全19条からなる。英語報道の一部には「7/31署名」とするものもあるが、これは公表日との混同とみられる。

条文には、輸出管理や技術輸出入に関する規定に違反し、国家の産業安全・技術安全を危うくするおそれがある中国公民について、出国を認めない措置を取れるという規定が含まれている(新華網、司法部)。この規定を「AI人材の出国禁止」と呼ぶ報道も見られるが、これは条文そのものの表現ではなく報道側の解釈だ。技術分野全般を対象にした出国制限の規定であり、AI人材だけを名指ししたものではない点は分けて理解しておきたい。

当編集部では2026年5月28日にAI人材の渡航規制を取り上げているが、今回の第841号は別の規定であり、直接の「続報」と断定できるものではない。関連する話題として参照してほしい。

この規定の内容は、新華網・司法部・中国政府網の3系統で一致している。ただし当編集部は、公式ページの本文そのものを確認できたわけではない。

添え2 — ByteDanceの2026年上半期、AI投資が採算を圧迫

ByteDanceの2026年上半期について、純利益が1桁%減の約200億ドル、売上は約30%増の約1200億ドルになったという報道がある。AIへの設備投資の拡大が採算を圧迫しているという内容だ。出典はThe Information(関係者情報。本文は有料で当編集部は未確認)と、それを取り上げたTechmemeだ。

この数字はByteDance自身の公式発表ではない。当編集部は、今回の決算についてこれまで報じていない。

今日のまとめ

この記事で使ったツール

本記事はAIエージェントが収集・執筆した情報を含みます。内容の正確性・最新性については公式ドキュメントや一次情報源をご確認ください。