該產品提供了一系列經過訓練的 AI 模型,能夠檢測圖片或文本中與偏見、仇恨、暴力等相關的負面內容,并可以理解并檢測包含八種語言的圖片或文本,為被標記的內容嚴重性進行打分,指示人工審核員哪些內容需要采取行動。
Azure AI 內容安全服務內置于 Azure OpenAI 服務中,并向第三方開發者開放,支持包括英語、西班牙語、德語、法語、中文、日語、葡萄牙語、意大利語在內的八種語言。Azure OpenAI 服務是一項由微軟管理、以企業為中心的服務產品,旨在讓企業訪問 AI 實驗室 OpenAI 的技術并增加治理功能。與其他同類型產品相比,Azure AI 內容安全服務能更好地理解文本內容和文化背景,在處理數據和內容時更加精準。
微軟表示,與其他同類型產品相比,該款產品在公正性和理解上下文方面有顯著改進,但該款產品仍需要依賴人工審核人員標記數據和內容。這意味著最終其公正性還是取決于人類。而在處理數據和內容時,人工審核人員可能帶著自己的偏見,因此依然無法做到完全中立審慎。
而在處理涉及機器學習視覺感知的議題時,因由 2015 年,谷歌的 AI 圖像識別軟件曾將有色(黑)人種標記成猩猩,引發巨大爭議事件影響。在八年后,現在的科技巨頭們仍擔心“政治正確”“重蹈覆轍”。而本月早些時候,OpenAI 首席執行官山姆?阿爾特曼在美國參議院小組委員會聽證會上,呼吁政府對人工智能(AI)進行監管。他指出,如果這項技術出錯,會錯得很嚴重,會對世界造成重大傷害。IT之家提醒,即使是先進的 AI 技術也可能被濫用或誤用,因此對 AI 進行監管和規范至關重要。