群內(nèi)防騷擾方法及裝置的制造方法
【技術(shù)領(lǐng)域】
[0001]本公開涉及信息發(fā)布技術(shù)領(lǐng)域，尤其涉及群內(nèi)防騷擾方法及裝置。
【背景技術(shù)】
[0002]在網(wǎng)絡(luò)群聊天系統(tǒng)中，在群成員很多的時候，需要對群進(jìn)行管理，保證群成員都按照群的規(guī)定進(jìn)行發(fā)布消息，聊天等，必要的時候，需要對惡意散發(fā)廣告、發(fā)危險鏈接等群成員及其發(fā)布的信息進(jìn)行相應(yīng)的處理，避免對其他群成員造成騷擾，相關(guān)技術(shù)中通常由群主或其他管理人員人工進(jìn)行處理，為他們帶來不少負(fù)擔(dān)。

【發(fā)明內(nèi)容】

[0003]本公開實施例提供了一種群內(nèi)防騷擾方法及裝置。所述技術(shù)方案如下:
[0004]根據(jù)本公開實施例的第一方面，提供一種群內(nèi)防騷擾方法，包括:
[0005]對群成員發(fā)布的歷史信息進(jìn)行分析，確定所述歷史信息是否包含惡意信息；
[0006]當(dāng)確定所述歷史信息包含惡意信息時，確定所述群成員對應(yīng)的騷擾等級；
[0007]按照所述群成員對應(yīng)的騷擾等級，對所述群成員執(zhí)行對應(yīng)的防騷擾處理，所述防騷擾處理用于防止所述群成員再次發(fā)布惡意信息。
[0008]在上述實施例中，對群成員發(fā)布的歷史信息是否包含惡意信息進(jìn)行識別，對發(fā)布惡意信息的群成員進(jìn)行適當(dāng)?shù)奶幚?，防止該群成員再次發(fā)布惡意信息，從而達(dá)到了凈化群信息、避免惡意信息對群成員造成騷擾的目的，減輕了群管理人員的負(fù)擔(dān)，提升了群聊天的安全度和用戶使用體驗。
[0009]在一個實施例中，對群成員發(fā)布的歷史信息進(jìn)行分析，確定所述歷史信息是否包含惡意信息，包括:
[0010]將所述群成員發(fā)布的歷史信息的內(nèi)容，與預(yù)設(shè)的惡意信息庫中的內(nèi)容進(jìn)行匹配，根據(jù)匹配結(jié)果，確定所述歷史信息是否包含惡意信息。
[0011]通過惡意信息庫進(jìn)行匹配的方式，上述實施例提供了一種可以便捷、準(zhǔn)確地識別惡意信息的方式。
[0012]在一個實施例中，將所述每個群成員發(fā)布的歷史信息的內(nèi)容，與預(yù)設(shè)的惡意信息庫中的內(nèi)容進(jìn)行匹配，根據(jù)匹配結(jié)果，確定所述歷史信息是否包含惡意信息，包括:
[0013]計算所述惡意信息庫中的各個惡意關(guān)鍵詞在所述群成員發(fā)布的歷史信息中出現(xiàn)的總次數(shù)；
[0014]當(dāng)所述總次數(shù)大于或者等于第一預(yù)設(shè)次數(shù)閾值時，確定所述群成員發(fā)布的歷史信息中包含惡意信息。
[0015]上述實施例為如何與惡意信息庫進(jìn)行匹配識別出惡意信息，提供了【具體實施方式】，以便準(zhǔn)確，快速地識別出惡意信息。
[0016]在一個實施例中，對群成員發(fā)布的歷史信息進(jìn)行分析，確定所述歷史信息是否包含惡意信息，包括:
[0017]統(tǒng)計所述群成員發(fā)布的歷史信息被其他群成員反饋為惡意信息的次數(shù)；
[0018]當(dāng)所述次數(shù)大于或者等于第二預(yù)設(shè)次數(shù)閾值時，確定所述群成員發(fā)布的歷史信息包含惡意信息。
[0019]上述實施例提供了另外一種識別惡意信息的方式，對于廣告、灌水等惡意信息的識別提供了方便的實施方式。
[0020]在一個實施例中，對群成員發(fā)布的歷史信息進(jìn)行分析，確定所述歷史信息是否包含惡意信息，包括:
[0021]當(dāng)所述群成員發(fā)布信息的次數(shù)達(dá)到第三預(yù)設(shè)次數(shù)閾值時，獲取所述群成員發(fā)布的歷史信息的內(nèi)容相似度；
[0022]當(dāng)所述內(nèi)容相似度大于或者等于預(yù)設(shè)相似度閾值時，確定所述群成員發(fā)布的歷史信息包含惡意信息。
[0023]上述實施例提供了另外一種識別惡意信息的方式，對于廣告、灌水等惡意信息的識別提供了方便的實施方式。
[0024]在一個實施例中，當(dāng)確定所述歷史信息包含惡意信息時，確定所述群成員對應(yīng)的騷擾等級，包括:
[0025]當(dāng)確定所述歷史信息包含惡意信息時，根據(jù)預(yù)設(shè)條件參數(shù)確定所述群成員對應(yīng)的騷擾等級，其中，所述預(yù)設(shè)條件參數(shù)包括下述一項或多項:所述歷史信息中惡意關(guān)鍵詞出現(xiàn)的總次數(shù)、所述群成員發(fā)布的歷史信息被其他群成員反饋為惡意信息的次數(shù)、所述群成員發(fā)布的歷史信息的內(nèi)容相似度；所述騷擾等級包括:第一級別、第二級別和第三級別；
[0026]所述按照所述群成員對應(yīng)的騷擾等級，對所述群成員執(zhí)行對應(yīng)的防騷擾處理，包括:
[0027]當(dāng)所述群成員對應(yīng)的騷擾等級為所述第一級別時，向所述群成員發(fā)出警告信息；
[0028]當(dāng)所述群成員對應(yīng)的騷擾等級為所述第二級別時，在預(yù)設(shè)時間段內(nèi)屏蔽所述群成員發(fā)布的信息；
[0029]當(dāng)所述群成員對應(yīng)的騷擾等級為所述第三級別時，刪除所述群成員；
[0030]其中，所述第一級別、所述第二級別、所述第三級別分別對應(yīng)的所述預(yù)設(shè)條件參數(shù)的值依次遞增。
[0031]上述實施例根據(jù)群成員發(fā)布的歷史信息中惡意關(guān)鍵詞出現(xiàn)的總次數(shù)、群成員發(fā)布的歷史信息被其他群成員反饋為惡意信息的次數(shù)、群成員發(fā)布的歷史信息的內(nèi)容相似度，差異化地對群成員進(jìn)行防騷擾處理，使得群的防騷擾策略更靈活，保障群的安全性的同時，提高用戶使用體驗。
[0032]根據(jù)本公開實施例的第二方面，提供一種群內(nèi)防騷擾裝置，包括:
[0033]惡意信息確定模塊，用于對群成員發(fā)布的歷史信息進(jìn)行分析，確定所述歷史信息是否包含惡意?目息；
[0034]等級確定模塊，用于當(dāng)所述惡意信息確定模塊確定群成員發(fā)布的歷史信息包含惡意信息時，確定所述群成員對應(yīng)的騷擾等級；
[0035]防騷擾處理模塊，用于按照所述等級確定模塊確定的所述群成員對應(yīng)的騷擾等級，對所述群成員執(zhí)行對應(yīng)的防騷擾處理，所述防騷擾處理用于防止所述群成員再次發(fā)布惡意信息。
[0036]在一個實施例中，所述惡意信息確定模塊，包括:
[0037]匹配子模塊，用于將所述群成員發(fā)布的歷史信息的內(nèi)容，與預(yù)設(shè)的惡意信息庫中的內(nèi)容進(jìn)行匹配；
[0038]第一確定子模塊，用于根據(jù)所述匹配子模塊的匹配結(jié)果，確定所述歷史信息是否包含惡意信息。
[0039]在一個實施例中，所述第一確定子模塊，用于計算所述惡意信息庫中的各個惡意關(guān)鍵詞在所述群成員發(fā)布的歷史信息中出現(xiàn)的總次數(shù)；當(dāng)所述總次數(shù)大于或者等于第一預(yù)設(shè)次數(shù)閾值時，確定所述群成員發(fā)布的歷史信息中包含惡意信息。
[0040]在一個實施例中，所述惡意信息確定模塊，包括:
[0041]統(tǒng)計子模塊，用于統(tǒng)計所述群成員發(fā)布的歷史信息被其他群成員反饋為惡意信息的次數(shù)；
[0042]第二確定子模塊，用于當(dāng)所述統(tǒng)計子模塊計算出的所述次數(shù)大于或者等于第二預(yù)設(shè)次數(shù)閾值時，確定所述群成員發(fā)布的歷史信息包含惡意信息。
[0043]在一個實施例中，所述惡意信息確定模塊，包括:
[0044]獲取子模塊，用于當(dāng)所述群成員發(fā)布信息的次數(shù)達(dá)到第三預(yù)設(shè)次數(shù)閾值時，獲取所述群成員發(fā)布的歷史信息的內(nèi)容相似度；
[0045]判斷子模塊，用于判斷所述獲取子模塊獲取到的所述內(nèi)容相似度是否大于或者等于預(yù)設(shè)相似度閾值；
[0046]第三確定子模塊，用于當(dāng)所述判斷子模塊判斷所述內(nèi)容相似度大于或者等于預(yù)設(shè)相似度閾值時，確定所述群成員發(fā)布的歷史信息包含惡意信息。
[0047]在一個實施例中，所述等級確定模塊，用于當(dāng)確定所述歷史信息包含惡意信息時，根據(jù)預(yù)設(shè)條件參數(shù)確定所述群成員對應(yīng)的騷擾等級，其中，所述預(yù)設(shè)條件參數(shù)包括下述一項或多項:所述歷史信息中惡意關(guān)鍵詞出現(xiàn)的總次數(shù)、所述群成員發(fā)布的歷史信息被其他群成員反饋為惡意信息的次數(shù)、所述群成員發(fā)布的歷史信息的內(nèi)容相似度；所述騷擾等級包括:第一級別、第二級別和第三級別；
[0048]所述防騷擾處理模塊，包括:
[0049]第一處理子模塊，用于當(dāng)所述等級確定模塊確定所述群成員對應(yīng)的騷擾等級為所述第一級別時，向所述群成員發(fā)出警告信息；
[0050]第二處理子模塊，用于當(dāng)所述等級確定模塊確定所述群成員對應(yīng)的騷擾等級為所述第二級別時，在預(yù)設(shè)的時間段內(nèi)屏蔽所述群成員所發(fā)布的信息；
[0051]第三處理子模塊，用于當(dāng)所述等級確定模塊確定所述群成員對應(yīng)的騷擾等級為所述第三級別時，刪除所述群成員；
[0052]其中，所述第一級別、所述第二級別、所述第三級別分別對應(yīng)的所述預(yù)設(shè)條件參數(shù)的值依次遞增。
[0053]根據(jù)本公開實施例的第三方面，提供一種群內(nèi)防騷擾裝置，包括:
[0054]處理器；
[0055]用于存儲處理器可執(zhí)行指令的存儲器；
[0056]其中，所述處理器被配置為:
[0057]對群成員發(fā)布的歷史信息進(jìn)行分析，確定所述歷史信息是否包含惡意信息；
[0058]當(dāng)確定所述歷史信息包含惡意信息時，確定所述群成員對應(yīng)的騷擾等級；
[0059]按照所述群成員對應(yīng)的騷擾等級，對所述群成員執(zhí)行對應(yīng)的防騷擾處理，所述防騷擾處理用于防止所述群成員再次發(fā)布惡意信息。
[0060]本公開的實施例提供的技術(shù)方案可以包括以下有益效果:
[0061]本公開實施例提供的上述群內(nèi)防騷擾方法及裝置，對群成員發(fā)布的歷史信息進(jìn)行智能分析，確定其中是否包含惡意信息，當(dāng)確定其中包含惡意信息時，確定該群成員對應(yīng)的騷擾等級，并根據(jù)該騷擾等級，執(zhí)行對應(yīng)的防騷擾處理，上述技術(shù)方案，能夠智能地識別出用戶發(fā)出的惡意信息，按照預(yù)設(shè)的規(guī)則，對發(fā)布惡意信息的群成員進(jìn)行適當(dāng)?shù)奶幚?，防止該群成員再次發(fā)布惡意信息，從而達(dá)到了凈化群信息、避免惡意信息對群成員造成騷擾的目的，減輕了群管理人員的負(fù)擔(dān)，提升了群聊天的安全度和用戶使用體驗。