控制在线问卷数据质量的具体方法

在对互联网产品进行的用户研究中,通过在线问卷收集数据是一个非常普遍的方式。在线问卷,不受访问的环境限制,回收速度很快,具有明显的优势。但是由于被访者没有相关的指导,在设备存在差异,回答的态度有不同等,因此数据的质量能否得到保证, 是一个关键的问题。数据质量决定了数据是否具有科学性,是否可以代表用户,是否给出准确的研究结论。因此我们要考虑对在线问卷的数据进行质量控制的具体的方法,保证问卷数据的质量。

我们为什么会需要进行在线问卷数据的质量控制

用户在线回答问卷的过程中,会出现一些问题,总结起来有以下三类:

1、会发生答题点击失误的情况

2、会有理解错误导致错误回答的情况

3、会出现答题不认真敷衍的情况

前两种情况,属于客观必然发生的小概率事件,不易通过技术对数据进行质量控制,但是出现的可能性小,可以忽略。而第三种情况,是用户答题态度有偏差,是可以通过技术实现质量控制,从而把有问题的数据发现并剔除掉。

如何发现有问题的问卷数据并剔除呢

针对答题不认真的问卷数据,我们要怎么才能发现呢可以通过以下三个层面。

1. 地雷题

我们第一种方法,也是最常用的方法,是通过在问卷中设置地雷题,并通过地雷题的数据来检验问卷数据的准确性。那么,什么是地雷题

地雷题是问卷设计中验证用户回答态度认真与否而设计的题目。这类题目往往是 2 个,对应出现的。也就是针对相同的问题以不明显有差异的方式在问卷中提问两次。如果被访者回答对应出现的两道题目,给出了完全相反或者差异巨大的答案,那么可以在一定程度上反映,这个人回答问卷的态度不够端正,可以怀疑这个人的数据是不真实的。

例如:在某个问卷中,Q1 问题是:以下物品,请问您家拥有哪些,其中有“汽车” 选项。Q10 问题是:请问您家拥有以下哪些个人资产,其中也有“汽车”选项。Q1 与 Q10 为地雷题,如果被访者这两个题目在汽车这个选项的答案出现差异,认为是不合格的数据。

地雷题应该如何设置

地雷题是在问卷收集之前,就要设置好的,如果没有设置,也就没办法通过其来进行质控了。同时需要注意,地雷题的设置也是有技巧的,针对选择题,两道地雷题之间的距离应该尽可能大。因为被访者在回答问卷的时候,不一定记得清之前问题和选择的答案,如果地雷题之间相隔很多题目,用户如果态度不端正,是很容易被甄别出来的。

以下是一个实验的数据结果。实验是将相同的地雷题,放在问卷的三个不同位置, 所甄别出的不合格问卷数据的比例。我们发现,地雷题的相距越大,被访者回答与对应选项的矛盾比例越高。

实验数据一：设置在不同位置地雷题的效果

2. 答题时间

通过答题时间的长短,我们可以知道很多被访者答题的情况:

(1)总体问卷回答时长

(2)单个问题回答时长

(3)总体问卷/单个问题的平均回答时长

(4)整体问卷/单个问卷的时长离散程度

……

通过以上这些时间数据,我们可以看到,一个被访者在正常情况下,回答整个问卷或者单个问题,他需要的一个时间大概是多久。如果回答问卷的平均需要15分钟的时间,而有的人用了1分钟就回答完了,而有的人用了2个小时,那么就很说明问题了, 回答时间过长或过短的被访者回答问卷存在一定的问题。

但是还有一种情况,就是如果平均时间是 15 分钟,那么 3 分钟的是否是认真的回答,40 分钟是否是不认真的回答呢这个我们需要什么依据来判断吗这就需要一个标准,稍后我们来揭晓这个标准。

3. 题目选项个数

通过被访者回答问卷的多选题,选择的选项数量,也可以进行问卷数据的质量控制。如果一被访者回答某个问题,所选择的选项明显多于或少于所有被访者回答这个问卷的平均选项数,那么就要注意了!

以下是一些问卷题目,被访者的选择的选项情况

实验数据二:在线问卷的不同题目选项个数的平均值与最大值

我们可以看到,对于吃饭,喝饮料,吃水果这种日常问题,被访者选择的选项个数明显多于平均值或者不符合常理,就应被认为是不合理的。比如图中,吃水果的题目, 有的用户选择了三天内吃了 18 种水果,这样的数据可能就有问题。

3σ 原则数据检验标准

刚才我们讲了答题时间,选项个数,可以反映被访者答题的数据质量。那么对于这两个因素,有没有一个标准可以来准确判断,怎么样的情况,我们就要剔除掉样本数据呢

我们要引入一个概念。即统计学原理的 3σ 原则。3σ 准则又称为拉依达准则,它是先假设一组检测数据只含有随机误差,对其进行计算处理得到标准偏差,按一定概率确定一个区间,认为凡超过这个区间的误差,就不属于随机误差而是粗大误差,含有该误差的数据应予以剔除。这种判别处理原理及方法仅局限于对正态或近似正态分布的样本数据处理,它是以测量次数充分大为前提的。在正态分布中 σ 代表标准差,μ 代表均值。

3σ 原则为数值分布在(μ-σ,μ+σ)中的概率为 0.6826,数值分布在(μ-2σ,μ+2σ)中的概率为 0.9544,数值分布在(μ-3σ,μ+3σ)中的概率为 0.9974,可以认为,Y 的取值几乎全部集中在(μ-3σ,μ+3σ)区间内,超出这个范围的可能性仅占不到 0.3%。3σ 原则告诉我们,标准正态分布时有 99.7%的可能数据应该落在 μ+3σ 的范围内。

选项个数在一定程度上是比较稳定的,即所有人选择个数的均值是相对稳定的。考虑到不同情况下大家行为的差异,我们需要关注所有人选择个数的标准差来衡量其离散程度。由于在多选题中没有负数出现,因而数据分布如下图所示。数据落在 μ+3σ 范围内的概率均超过 99%,也就是说一个正常的数据有 99%的可能性会落在这个范围内, 超过这个范围的值发生的概率极小,因而一旦发生,可以认为是奇异值,需要剔除掉。