17/09/2025 14:14
【ＡＩ】用AI防範AI？ChatGPT將推智能系統，防止捲入青少年自殺事件
《經濟通通訊社17日專訊》OpenAI首席執行官奧特曼(Sam Altman)周二（16日）正面回應旗下ChatGPT捲入青少年自殺案的事件，稱該公司正試圖在青少年安全、自由和隱私之間尋找平衡，並承認這些原則是相互衝突的。
奧特曼發文當天，美國參議院舉行了一場聽證會，重點審查AI聊天機器人的危害。該聽證會由參議院犯罪和反恐小組委員會舉行，一些自殺身亡青少年的父母出席了聽證會。
奧特曼寫道：「我們必須將未滿18歲的用戶，與成年用戶區分開來。」該公司正在建立一個「年齡預測系統」，根據人們使用ChatGPT的方式來估計年齡。
奧特曼還表示，該公司計劃對青少年用戶實施不同的規定，包括避免調情式的對話或參與有關自殺或自殘的對話，稱「如果18歲以下的用戶有自殺念頭，我們將嘗試聯系用戶的父母，如果無法聯系，我們將聯系當局，以防迫在眉睫的傷害。」
上月，一名加州高中生的父母起訴OpenAI，稱ChatGPT讓他們的兒子與家人疏遠，並幫助他籌劃了在今年4月的自殺。美國聯邦貿易委員會(FTC)已要求七家大型人工智能聊天機器人開發商，提交相關資料，說明其技術對兒童的影響。(jf)
奧特曼發文當天，美國參議院舉行了一場聽證會，重點審查AI聊天機器人的危害。該聽證會由參議院犯罪和反恐小組委員會舉行，一些自殺身亡青少年的父母出席了聽證會。
奧特曼寫道：「我們必須將未滿18歲的用戶，與成年用戶區分開來。」該公司正在建立一個「年齡預測系統」，根據人們使用ChatGPT的方式來估計年齡。
奧特曼還表示，該公司計劃對青少年用戶實施不同的規定，包括避免調情式的對話或參與有關自殺或自殘的對話，稱「如果18歲以下的用戶有自殺念頭，我們將嘗試聯系用戶的父母，如果無法聯系，我們將聯系當局，以防迫在眉睫的傷害。」
上月，一名加州高中生的父母起訴OpenAI，稱ChatGPT讓他們的兒子與家人疏遠，並幫助他籌劃了在今年4月的自殺。美國聯邦貿易委員會(FTC)已要求七家大型人工智能聊天機器人開發商，提交相關資料，說明其技術對兒童的影響。(jf)