一場發生在加拿大偏遠小鎮的校園槍擊案，意外揭開了AI巨擘OpenAI內部一場激烈的道德辯論。根據華爾街日報率先披露，槍手早在犯案前八個月，就因其與ChatGPT的驚悚對話，而被OpenAI的監控系統鎖定，內部員工甚至為此是否該通報警方而爭執不休，最終公司高層的決定，如今看來令人不寒而慄。
這起悲劇的主角是18歲的Jesse Van Rootselaar，她在今年2月於英屬哥倫比亞省的塔布勒嶺鎮（Tumbler Ridge）槍殺了包含自己母親與弟弟在內的八人，並造成超過二十人受傷，最後飲彈自盡。 這起事件震驚了加拿大，也讓科技界再次直面AI倫理的灰色地帶。
時間回到6月，Van Rootselaar與ChatGPT連續數日的對話中，詳細描述了涉及槍枝暴力的場景。 這些內容觸發了OpenAI的自動化監測系統，隨後約有十二名員工介入審查。 根據報導，部分員工認為對話內容構成潛在的真實世界暴力威脅，強烈主張應立即聯繫加拿大執法部門。
不過，經過內部反覆討論，OpenAI的領導團隊最終選擇了沉默。 公司發言人向媒體解釋，儘管Van Rootselaar的帳號因違反使用政策而在當時即被停權，但其言論並未達到公司內部所設定的「對他人構成可信且迫在眉睫的嚴重身體傷害風險」的報警門檻。
OpenAI強調，這項決策是在權衡潛在安全風險與用戶隱私之間所做的艱難取捨。 公司擔心，過於頻繁地向警方通報，可能會對用戶及其家庭造成不必要的困擾與傷害，尤其是在缺乏明確立即威脅證據的情況下。 這樣的考量，凸顯了科技公司在扮演「數位吹哨人」角色時所面臨的巨大壓力與兩難。
悲劇發生後，OpenAI才主動聯繫了加拿大皇家騎警（RCMP），並提供了槍手的相關數位紀錄以協助調查。 警方證實，他們正在對槍手的網路活動與電子設備進行全面審查，試圖拼湊出悲劇前的完整圖像。 加拿大警方也提到，Van Rootselaar過去曾因心理健康問題與當局有過接觸。
這起事件在全球範圍內引發了關於AI公司社會責任的激烈討論。 AI系統如今能以前所未有的規模監測用戶對話，並透過演算法標記出潛在威脅，這項能力本身就是一把雙面刃。 一方面它提供了預防犯罪的可能，另一方面也引發了對大規模監控和言論自由的擔憂。
批評者認為，OpenAI的報警門檻過高，錯失了阻止一場屠殺的機會。但也有觀點指出，若無明確的法律規範，要求私人企業判斷用戶言論是否構成「立即威脅」，將使其陷入法律和道德的泥沼。 如何在保護公眾安全、尊重用戶隱私與避免過度干預之間找到平衡點，已成為全球監管機構與科技公司必須共同面對的課題。
相關報導：indiatimes.com、wtam.com