- 非営利技術監視団体がOpenAIの統治慣行と企業文化を文書化した「OpenAI Files」を公開
- OpenAIは初期の非営利時代に投資家利益を100倍に制限していたが、現在は資金調達のため上限撤廃を計画
- Sam Altman（サム・アルトマン）氏の利益相反問題と2023年の解任騒動における「欺瞞的で混乱した行動」が焦点
- AGI開発における透明性と説明責任の向上を目指し、少数者への権力集中に対する監視強化を提言
OpenAI Filesプロジェクトの概要と目的
OpenAI CEO Sam Altman（サム・アルトマン）氏は、人類の大部分の労働を自動化できる汎用人工知能（AGI）の開発まであと数年だと発言している。この主張が事実であれば、人類はこれほど驚異的で不安定化要因となる力の背後にある人物や仕組みを理解し、発言権を持つ権利がある。
これが「The OpenAI Files」の指導原理である。同プロジェクトは、2つの非営利技術監視団体であるMidas ProjectとTech Oversight Projectによるアーカイブプロジェクトだ。このファイルは「OpenAIの統治慣行、リーダーシップの誠実性、組織文化に関する懸念を文書化したコレクション」である。
認識向上を超えて、このファイルの目標は責任ある統治、倫理的リーダーシップ、共有利益に焦点を当てたOpenAIや他のAIリーダーへの前進の道筋を提案することだ。ウェブサイトの「Vision for Change」には「これほど重要なプロジェクトを導く統治構造とリーダーシップの誠実性は、使命の規模と深刻さを反映しなければならない」と記されている。
AI開発競争における成長至上主義の問題点
これまでのAI支配競争は、成長至上主義を生み出した。この考え方により、OpenAIのような企業は訓練目的で同意なしにコンテンツを大量収集し、地域消費者に停電や電気料金上昇をもたらす大規模データセンターを建設している。
商業化への急速な取り組みは、投資家からの利益創出圧力が高まる中、必要な安全対策を講じる前に製品を出荷することにも繋がっている。この投資家圧力がOpenAIの中核構造を変化させた。
OpenAI Filesは、初期の非営利時代にOpenAIが投資家利益を最大100倍に制限し、AGI達成による収益を人類に還元する仕組みを持っていたことを詳述している。同社はその後、この上限撤廃計画を発表し、構造改革を資金提供の条件とした投資家をなだめるためにそのような変更を行ったと認めている。
OpenAIの安全評価プロセスと「無謀な企業文化」
ファイルはOpenAIの性急な安全評価プロセスと「無謀な文化」のような問題、さらにOpenAI取締役会メンバーとAltman氏自身の潜在的利益相反を強調している。これらには、OpenAIと事業が重複するAltman氏の投資ポートフォリオに含まれる可能性のあるスタートアップのリストも含まれている。
ファイルはまた、Altman氏の誠実性に疑問を呈している。これは2023年に上級従業員が「欺瞞的で混乱した行動」を理由に彼を解任しようとして以来、憶測の対象となっている。
「私はSamがAGIのボタンに指を置くべき人物だとは思わない」と、OpenAIの元チーフサイエンティストIlya Sutskever（イリヤ・サツケヴァー）氏が当時発言したと報じられている。
透明性と監視体制の強化に向けた提言
OpenAI Filesが提起した問題と解決策は、透明性が限られ監視も制限された状況で、膨大な権力が少数の手に委ねられていることを思い出させる。ファイルはそのブラックボックスの一端を明らかにし、必然性から説明責任への対話の転換を目指している。
引用元: TechCrunch
The ‘OpenAI Files’ push for oversight in the race to AGI
