压缩率是AGI的智商衡量标准[2][3][4]。

<aside> 💡 Proof of Work of Compression (PoWoC)

</aside>

压缩-例

定义

$t=$ 时间

$c(t)=$ 随时间$t$变化的foundation model的被推至的最好压缩率(space saving)函数

$\Delta t = const$ (推荐设置为 1天~1周)

$t_i=t_{i-1} + \Delta t$

$\Delta c_i = c(t_i) - c(t_{i-1})$

PoWoC 代币激励模型

每隔时间$\Delta t$ 固定产生1个coin，即在每个时间节点$t_i$固定产生1个coin，这1个coin的分配方案如下：

• 若 $\Delta c_i > 0$ ，即foundation model有获得实质进展

  • 设 $\Delta c_i =a + b + c + ...$ ，分别由$n$个贡献者推动，则$n$个贡献者分别获得的coin量分别为 $\frac{a}{\Delta c_i} , \frac{b}{\Delta c_i} , \frac{c}{\Delta c_i},...$

    

    图中展示了1个coin从1个单位时间$\Delta t$ 中诞生和分配过程。在$t_2$到$t_3$之间，产生了$\Delta c_3> 0$ （黄色区域的高度>0），其中$\Delta c_3$ 恰好由3个贡献者{a,b,c} 分3次推动（a红、b绿、c蓝）。则a,b,c这3个贡献者分别按照红、绿、蓝条的高度均分这1个coin（a最多，c最少）。

• 若 $\Delta c_i = 0$，即foundation model没有获得实质进展

  • 则，时间节点$t_i$的coin分配方案 $=$ 时间节点$t_{i-1}$的coin分配方案

c[t_] := 1 - (1/Ceiling[(t + 0.5)*3] + 0.85);
d = 0.1;
e = 4.5
Show[
 Plot[c[t], {t, 1, e}, PlotRange -> {0, c[e]}, Filling -> None, 
  AxesLabel -> {t, c}, Ticks -> {Range[2, 10], Range[0, c[10], 0.02]},
   PlotLabel -> "PoWoC"],
 Plot[c[t], {t, 2, 3}, PlotRange -> {0, c[e]}, Filling -> 0],
 Plot[c[t], {t, 2, 3}, PlotRange -> {0, c[e]}, Filling -> c[2], 
  FillingStyle -> Directive[Yellow, Opacity[0.2]]],
 Plot[c[t], {t, 2.1 + 0/3, 2.1 + 0/3 + d}, PlotRange -> {0, c[e]}, 
  Filling -> c[2], FillingStyle -> Red],
 Plot[c[t], {t, 2.1 + 1/3, 2.1 + 1/3 + d}, PlotRange -> {0, c[e]}, 
  Filling -> c[2.5], FillingStyle -> Green],
 Plot[c[t], {t, 2.1 + 2/3, 2.1 + 2/3 + d}, PlotRange -> {0, c[e]}, 
  Filling -> c[2.8], FillingStyle -> Blue]
 ]

（有损）压缩率$c$

We denote $c$ as space saving [1]:

$$ c:=1-\frac{compressed}{original}= 1- \frac{p+(1-\alpha)d}{d}=\alpha-\frac{p}{d} $$

$p$为AGI模型的 自由参数量

$d$为训练数据的数据量

$\alpha\in [0,1]$ 为测试数据上在某种metric下的拟合率，$\alpha =1-loss$