下午课上，教授突然疾步走到角落拿起某同学的书包，问他：“可以吗？”那个男生迟疑片刻：“当然。”全班都很疑惑。然后她拉开书包的拉链说：“我可以看吗？”那个同学：“额……可以吧。”教授此时大声地问所有人：“我有权这样做吗？”大家才从这半分钟的闹剧里回过神来说：“没有。”
教授：“我得到了consent，你们都听到了。”有同学讲：“但他明显回答得很犹豫。”教授转向书包的主人：“你为什么不拒绝？”答：“我怕你会觉得我在掩盖什么。”教授问：“有没有一些情况中yes也不代表consent？”另外一个同学：“有，当两个人的权力不平衡时。”
Consent绝不只是一个表情，一句话，一瞬间。 source
教授：“我得到了consent，你们都听到了。”有同学讲：“但他明显回答得很犹豫。”教授转向书包的主人：“你为什么不拒绝？”答：“我怕你会觉得我在掩盖什么。”教授问：“有没有一些情况中yes也不代表consent？”另外一个同学：“有，当两个人的权力不平衡时。”
Consent绝不只是一个表情，一句话，一瞬间。 source
👍29
把 Meta 前两天发布的这篇论文读了一遍，mind blowing
这篇论文被近期 ChatGPT & Bing Chat 的风头盖过去了，不过我感觉论文中提到的内容可能是未来 Language Model 发展的一个重要的分支。
简单来说，这篇论文提出了一种新的语言模型：Toolformer。
这个 LM 的特别之处是可以训练自己来使用各种工具，例如调用 API、做数值计算、请求网页内容，或者是其他任何操作。
我们都知道现在 ChatGPT / GPT-3 存在的一个很大的问题就是生成的结果受限于训练的数据集（ChatGPT 截止于 2021 年），对于一些实时性的内容是无法生成的。另外就是无法进行很好的数值计算，简单的加减乘除也会算错。
Bing Chat 一部分解决了这些问题，其实底层的原理也比较简单，先利用 Bing 进行关键词搜索，然后再把结果通过 embedding 的方式注入到 prompt 中去调用底层的大模型。当然 OpenAI 和微软应该在上层工做了很多工程化的工作，所以 Bing Chat 的生成速度和准确性上都表现得非常好。
但是这种能力是非常有限的，比如你想要通过 Bing Chat 来搜索夏威夷的某个旅店价格，这个是可以做到的。但是如果想让它帮你预定最实惠的那个酒店就不行了，因为它只能够生成内容，不能执行逻辑。但是如果 LLM 能够知道「怎么预定酒店」这个操作的话，那么就可以完成上面的步骤了。
其实方法简单来说就是把很多预定酒店的操作过程喂给他来训练，然后它就能「学」会了。简单做一层抽象，这个可以扩展到任何外部的 API 调用。
一些可能的场景：
- 让 LLM 在训练的过程中自己通过调用外部数据源的形式来优化训练；
- 生成结果的同时进行额外的操作，比如和 Office 365 中的文档进行交互；
- 让机器人自己学会工具的使用；
- 数值计算、更强大的逻辑能力等。
如果说 GPT-3 / ChatGPT / Bing Chat 等 LLM 只是「智能大脑」的话，Toolformer 模型就是给这些大脑加上了「手」，可以开始使用工具了。 source
这篇论文被近期 ChatGPT & Bing Chat 的风头盖过去了，不过我感觉论文中提到的内容可能是未来 Language Model 发展的一个重要的分支。
简单来说，这篇论文提出了一种新的语言模型：Toolformer。
这个 LM 的特别之处是可以训练自己来使用各种工具，例如调用 API、做数值计算、请求网页内容，或者是其他任何操作。
我们都知道现在 ChatGPT / GPT-3 存在的一个很大的问题就是生成的结果受限于训练的数据集（ChatGPT 截止于 2021 年），对于一些实时性的内容是无法生成的。另外就是无法进行很好的数值计算，简单的加减乘除也会算错。
Bing Chat 一部分解决了这些问题，其实底层的原理也比较简单，先利用 Bing 进行关键词搜索，然后再把结果通过 embedding 的方式注入到 prompt 中去调用底层的大模型。当然 OpenAI 和微软应该在上层工做了很多工程化的工作，所以 Bing Chat 的生成速度和准确性上都表现得非常好。
但是这种能力是非常有限的，比如你想要通过 Bing Chat 来搜索夏威夷的某个旅店价格，这个是可以做到的。但是如果想让它帮你预定最实惠的那个酒店就不行了，因为它只能够生成内容，不能执行逻辑。但是如果 LLM 能够知道「怎么预定酒店」这个操作的话，那么就可以完成上面的步骤了。
其实方法简单来说就是把很多预定酒店的操作过程喂给他来训练，然后它就能「学」会了。简单做一层抽象，这个可以扩展到任何外部的 API 调用。
一些可能的场景：
- 让 LLM 在训练的过程中自己通过调用外部数据源的形式来优化训练；
- 生成结果的同时进行额外的操作，比如和 Office 365 中的文档进行交互；
- 让机器人自己学会工具的使用；
- 数值计算、更强大的逻辑能力等。
如果说 GPT-3 / ChatGPT / Bing Chat 等 LLM 只是「智能大脑」的话，Toolformer 模型就是给这些大脑加上了「手」，可以开始使用工具了。 source
👍6
今天是陆克文总理向“被偷走的一代”原住民做出历史性道歉15周年。
政府宣布拨款4.24亿澳元，解决原住民的住房、食品、教育和水基础设施等问题。
“被偷走的一代”是1900年代至1970年代间，澳政府在“同化政策”名义下强行带走原住民儿童，大约每三个原住民儿童就有一人被带走。
ab.co/3E46Mia source
政府宣布拨款4.24亿澳元，解决原住民的住房、食品、教育和水基础设施等问题。
“被偷走的一代”是1900年代至1970年代间，澳政府在“同化政策”名义下强行带走原住民儿童，大约每三个原住民儿童就有一人被带走。
ab.co/3E46Mia source
www.abc.net.au
头条：澳洲情报组织称未了解到曾有监测气球飞越领空
澳大利亚安全情报组织负责人伯吉斯今天表示，间谍气球不是澳大利亚遭监视的“主要手段”。