问答
问:如果我把电池串联成一个回路,任意两点之间的电压是多少?
答:这是老师提出的一个非常有趣的问题。第一次看到时,你可能会觉得有点奇怪,无法立刻想出答案。事实上,我们可以理解为在这个模型中电流会非常大,因为电源的内阻很小。但电流不会持续增大到无穷大。那么稳态是什么样的呢?
这很简单。电路中除了电池以外没有其他外部元件,因此消耗电能的只有电池的内阻。用公式表示为
$ E = I·r $$U = E-I·r=0$
因此,不会产生电压降。所以任意两点之间的电压为 0
如果太阳能电池可以被视为恒流源,那么为什么我们买的太阳能板都标注 xV、xW
我猜测 xV、xW 是太阳能板的合适工作电压,这只是因为市面上大多数设备需要的是电压源而不是电流源,但这还有待验证。
顺便一提,为了得到一块太阳能板,我拆解了一个装饰品,但无法复原。准确地说,我知道各元件的结构和位置,但把它们重新组装后却不能正常工作。
- 模型的上下文长度和什么有关?
- top p和top k是啥,k,p的全称是啥
- 如何理解“重新归一化,并且采样”
* indexer是怎么打分的 - 不同的layer有啥区别,为啥有不同的layer,为啥不同的layer可以reuse
- 啥时候进行reindex
- encoder和decoder 为啥也有reuse?encoder我理解就是编码,decoder解码,那这两层为啥也要用这个技术,这两个之间是什么层
- 那我如果永远选概率最大的,是不是每一次输入固定后,输出就是固定的?
- 你能不能猜测一下,indexer大概依据哪些指标进行打分,指标越高分数越高还是啥
- 什么时候会到100万个kv,然后我在输出next token的时候,前100万个kv是否还会变,这是为什么
- 如果我选出来top 512,难道这512个token不会连不起来一句话吗,那我后续如何输出
- 如何理解这里所说的hidden state?无法被解码的状态?
- 所谓的100万kv指的是啥,一个kv是一组token吗
- 我之前学习过qkv,为啥每一层还有自己的q? 我还是没明白q是如何产生,如何使用的
- swa kv又是啥
- index会随着时间更新吗
- 如何理解causal encoder中的causal
- context和啥有关系,模型越大能处理的context越长吗
- csa2 reuse的csa2是啥玩意,swa又是啥
- 为啥encoder和decoder之间没有层,所有模型都是这样设计的吗
- ced是啥
- 产生的global kv是啥意思,为啥叫global
- wkv又是啥玩意