2023年4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能管理辦法（征求意見(jiàn)稿）》，明確要求利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀，不得含有破壞國(guó)家統(tǒng)一、宣揚(yáng)民族仇恨、暴力信息等可能擾亂經(jīng)濟(jì)和社會(huì)秩序的內(nèi)容。
以大模型技術(shù)為核心的生成式AI技術(shù)近來(lái)受到了廣泛的關(guān)注和應(yīng)用，而大模型訓(xùn)練語(yǔ)料大多來(lái)自互聯(lián)網(wǎng)，而互聯(lián)網(wǎng)中存在很多敏感信息。因此對(duì)生成式AI的內(nèi)容監(jiān)管將成為互聯(lián)網(wǎng)安全管理工作的重要內(nèi)容，云創(chuàng)cGPT M1000敏感信息過(guò)濾一體機(jī)在此背景下應(yīng)運(yùn)而生，能夠針對(duì)各種場(chǎng)景，識(shí)別和篩選出文本中的潛在敏感信息，有效避免大模型產(chǎn)品在提供服務(wù)時(shí)產(chǎn)生不可控信息，為大模型技術(shù)應(yīng)用安全保駕護(hù)航。
