在线平台运作原则和现实生活中的社区非常相似。如果一个社区充满的犯罪或肆意破坏公物的行为，那么这个社区将会被人们抛弃。随着在线社区的不断扩大，这种情况也会出现在互联网上。

因为网络的规模效果，让在线社区变得更具价值。但是，如果系统不随着规模的增长而提升用户行为管理的话，日益增长的恶意行为将会带来负面效果。一旦恶意行为发生，快速发展的网络就会开始大规模的失去用户（ChatRoulette就是个例子），线上聊天也会变得十分荒谬（不妨看看YouTube上的评论），甚至会造成现实生活中严重的后果（Airbnb曾发生过入室抢劫）。

初创公司规模快速扩大并获得一定的竞争力，可以让他们获得成功。但是如果无法开发出对应的网络语言暴力控制系统，这些企业最终一样会以失败收场。一个好的控制系统可以预防、规范、并解决那些骂人或网络暴力行为。

了解发起用户的行为

每一个发起用户的在线行为都包含了两个对象：
内容制造者:有一些用户会在平台上创造出内容或信息，这些信息内容会引导其他用户进行交互。媒体上的写手以及eBay上的卖家都分别是各种系统内的制造者。

种子内容: 这是那些内容制造者所创作内容或信息的基本单元. 在YouTube上，种子内容就是原创视频；在Airbnb上，种子内容就是产品列表。它是平台上产品和消费品的最基本单元。

所有针对故意破坏和系统恶意的预防行为要么从内容制造者入手，要么从种子上入手，我们不妨先看看下文的实例：

一个专门为预防网络暴力而设计的架构

借用医疗上的一个比喻，那些在网络社区内的捣乱行为就像是人体感染上疾病。对于一个平台而言，有三种特殊的设计方法可以用于防止这种情况发生。

预防

防止网络暴力最简单的方法就是从源头上切断，以下两种方式很有效：

1、 内容制造者：平台在允许制造者访问系统之前就要对他们进行管理。比如CupidCurated网站就用一整个团队来管理那些访问他们系统的人。那些肆意破坏约会网站的用户，他们的喜好可以被很好的掌握。此外，Quibb网站也对社区访问进行管理，而Medium论坛则对所有写手进行管理，但是对访问平台的读者是完全开放的。然而这样管理内容制造者所产生的问题是会影响平台的竞争力。

2、 种子内容：平台应该管理所创造出的内容种子，一旦它们不满足某一标准就拒绝掉。比如App Stores在应用上架之前，就要求它们必须满足一定标准。同样在Quora上提问题也需要一定积分，这种方式是在用户开始全新的交互之前就要求他们必须达到活动的最低水平，或是至少在系统内有一定信誉。但是过度管理内容制造者会导致竞争力下降，而管理种子内容则会导致参与度下降。

最简单的方法就是执行，实际上，执行好预防策略也可以为平台带来增长，并提升参与度。

规章制度

有一种非常好的方法，可以鼓励用户为系统平台做出高质量的贡献，那就是允许开放访问，并向大众开放产品权限。不过对于那些最好的产品则必须要限制用户访问，更不能让人轻易找到。

1、 内容制造者：构建一个有信誉的系统，可以根据产品的历史判断出一个内容制造者的可靠性。一个用户在Hacker News或Reddit网站上所作的一切，对于社区而言都是一种资产，因为这可以判断出他是否有能力持续制造出高质量的内容。这些平台上的算法也会助力信誉好的内容制造者。那些拥有更好信誉的用户当然也该享有更高的权利，就像维基百科上的编辑和超级用户一样。

2、 种子内容：在内容生成以后，投票和评级功能则可以更好的管理内容。一些平台在内容结果排名或推送新内容时，会把内容制造者的信誉度作为评分因素，同时也对种子内容进行质量评分。而有些平台会只考虑种子内容的质量评分。

一般而言，规章制度的策略需要构建在一定规模之上，而且在1000万用户级别上才有效果，因为他们真正能执行的也就大约一万用户。

治愈

最后，平台为了阻止恶言内容，可能会革除内容制造者或种子内容。他们会给用户提供报告这些恶习的系统功能权限，并提供一些识别这些恶意行为的算法。在构建系统时，这些功能非常重要。

1、 内容制造者：约会网站经常会把一些行为表现不佳的用户拉黑。在其他例子中，用户可能不会被整个平台拉黑，而是无法使用该平台内的某些特殊功能，比如LinkedIn允许用户自己把不喜欢交流的用户拉黑。Facebook允许用户阻止好友内容（状态更新）显示。

2、 种子内容：在一些系统里，往往不会把用户删除掉，但是他们发送的种子内容可能会被封。比如YouTube会删除色情或盗版内容，Quora也会删掉“嘲笑性的回答”。不过多半情况是，在删除种子内容以后，很可能导致内容制造者本人的离去。

阻止在线网络暴力和破坏行为对于那些希望扩大规模的初创公司而言非常重要。当大多数平台在他们创业初期拼命想解决先有鸡还是先有蛋的时候，如果他们的在线社区受到网络暴力和破坏，那么这些企业所取得的优势将荡然无存。