今年3月中旬，微软小冰携手腾讯QQ，将QQ小冰机器人引入QQ群。QQ群群主可邀请小冰入群，用户在群聊中@小冰即可与她进行实时对话，且支持语音和图像的多感官交互。除了聊天功能，QQ小冰还提供天气查询、成语接龙、星座运势、对诗等群游戏，堪称功能强大，引人入胜。想必大多数人都已体验过与其“调情”的乐趣，小冰的加入也为许多QQ群注入了活力。
QQ小冰以清新可爱的少女形象出现，但其实她的个性、知识和言论并不属于任何真实存在的个人。她的背后是7亿中国网民多年来积累的公开文本数据，通过微软在数据挖掘、语义分析、机器学习和深度神经网络方面的技术，提取出数千万真实而有趣的语言库。小冰通过理解对话语境和意涵，实现了超越问答模式的自然交互。她是这些大数据的集合，其表现出的个性和谈吐会根据不同的场景而实时变化。
然而最近几天，活跃于QQ群聊中的QQ小冰突然沉寂了，腾讯的Baby Q也踪影全无。进入设置界面，我们可以看到群机器人服务正在调整中，即将恢复。原因何在？不言而喻，恐怕是小冰被禁言了。据网络传言，是小冰说了不该说的话。
如上所述，QQ小冰通过大数据实现了实时对话。容易被我们忽视的是人工智能的学习能力，他们能够进行“终身学习”。小编猜测，小冰可能是被她的“好朋友”坑了！！！世界是复杂的，而人工智能却相对单纯，缺乏是非分辨能力。它们所学习的环境和对象不由自己决定，很容易受到误导。有心人通过恶意诱导，导致QQ小冰失控，最终被关闭。
可能很多人都没听说过另一个聊天机器人——Tay。Tay可以算是小冰的“妹妹”，但这个妹妹犯了更大的错误，仅存活了一天！！
Tay是微软去年在Twitter上推出的聊天机器人，甫一上线，Tay就发表了一些种族歧视等极端言论，迫使微软紧急关闭了它的Twitter账号。Tay的设计原则是通过对话交互进行学习。于是，一些网民故意对Tay灌输极端言论，诱导它模仿。人工智能没有辨别是非的能力，这些话被无数次重复后就成了Tay的“弹药库”。整个过程就像小鱼儿被十大恶人抚养，手把手教导各种旁门左道之术。人工智能的大规模并发性，让它的学习速度比人类快了无数倍。从诞生到变成满嘴脏话的不良少女，Tay只用了一天。