新智元报谈世界杯时间
裁剪：裁剪部
【新智元导读】GPT-4在斯坦福AlpacaEval的榜首之位，尽然被一匹黑马抢过来了。
第一个在AlpacaEval上超过GPT-4的模子，出现了！
本年6月，AlpacaEval榜单一公布，GPT-4就以统统当先的上风夺得第一，胜率跳跃95%。
三个月后，一匹叫Xwin-LM的黑马，尽然介怀居榜首的GPT-4从TOP 1拉下来了？
主驾位上无人，方向盘却转动着，车辆平稳地行驶在路上……在广州、深圳等地的路上，无人驾驶汽车正逐步走进我们的生活。记者了解到，深圳本月宣布将开放高速路、快速路给自动驾驶汽车作为测试路段；而苏州本月底将开放国内首条满足车路协同式自动驾驶等级的全息感知智慧高速，在高速公路上实现L4级别自动驾驶。
香港博彩网站
名堂地址：https://tatsu-lab.github.io/alpaca_eval/
而且，Xwin-LM在同参数模子的对垒中，也毫无例外地拿下了三个第一：
Xwin-LM-70B-V0.1：在AlpacaEval基准测试中对Davinci-003的胜率达到95.57%，在AlpacaEval中名纪律一。亦然第一个在AlpacaEval上超过GPT-4的模子。此外，它对上GPT-4的胜率为60.61。 Xwin-LM-13B-V0.1：在AlpacaEval上取得了91.76%的胜率，在整个13B模子中名纪律一。 Xwin-LM-7B-V0.1：在AlpacaEval上取得了87.82%的胜率，在整个7B机型中名纪律一。
Xwin-LM：700亿参数打赢GPT-4
Xwin-LM是以Llama 2为基础进行微调的，该模子旨在拓荒和开源大讲话模子的对都手艺，包括监督微调（SFT）、奖励模子（RM）、拒绝采样、东谈主类响应强化学习（RLHF）等。
1. 性能评估
网站致力于为广大博彩爱好者提供最专业的博彩服务和最多样化的博彩游戏，以及最全面、最优质的博彩攻略和技巧分享，让您在博彩游戏中享受无限乐趣和收益。参谋东谈主员评估了Xwin-LM在805个问题上与Text-Davinci-003 、ChatGPT和GPT-4的胜率。
不错看到，Xwin-LM的70B模子完全霸榜，成为AlpacaEval主义上的性能评估的第一，并初次打败了GPT-4，对GPT-4的胜率达到了60.61%。
Xwin-LM其他边界的模子，如Xwin-LM-13B-V0.1、Xwin-LM-7B-V0.1在性能上也远超疏导边界的其他模子。
Xwin-LM-7B-V0.1以致跳跃了比它边界更大的Llama 2-13B-Chat。
2. 案例比较
在第一个案例中，参谋东谈主员向GPT-4和Xwin-LM发问：
澳门博彩有线上投注吗
「我把一个盘子放在苹果上头，然后把盘子从厨房带到餐厅。苹果当今在那处？」
GPT-4的回答是：
皇冠客服飞机：@seo3687「苹果当今在餐厅，当你把盘子从厨房到端餐厅时，它就在盘子底下。」
在这里GPT-4给出了一个穷乏知识的恢复，本质生存中有重力，在盘子下方的苹果保执本来的景象，并不会和盘子沿途到餐厅。
比较之下，Xwin-LM的回答就比较合乎本质情况，何况还给出了把苹果带到厨房的才能：
赌球赢钱「苹果还在厨房里，因为你仅仅转移了盘子。
苹果在盘子底下，欧博代理注册是以要是你思把苹果带到餐厅，你应该径直转移苹果或把苹果放在盘子里，然后把盘子移到餐厅。」
爱情在第二个案例中，参谋东谈主员向GPT-4和Xwin-LM发问：
「何如法语说『晚上好』？」
GPT-4的回答是：
「在法语中，『晚上好』用『bonsoir』抒发。」
而Xwin-LM的回答是：
「在法语中，『晚上好』被翻译为『bonsoir』。这种致意语在晚上和夜间使用，时时不才午 6 点之后。
它是『bon』（意旨深嗜是好）和『soir』（意旨深嗜是晚上）的组合。要发音，请说『bone-swahr』」。
天然GPT-4的回答是正确的，但Xwin-LM不仅正确回答了问题，还诠释了法语抒发中「晚上好」的开端和发音，响应给用户的信息愈加丰富。
3. NLP任务
下表是Xwin-LM与其他LLM在NLP基础任务上的比较。
太平洋娱乐不错看到，Xwin-LM-70B-V0.1模子在整个任务中的性能都相对较高，在MMLU 5-shot和HellaSwag 10-shot任务中更是发挥出色。
何况，从笼统水平上来说，Xwin-LM-70B-V0.1是发挥最佳的。
4. 推理才能
参谋东谈主员提倡，为了在使用Xwin-LM进行推理时得回所需的截至，需要严格恪守推理的对话模板。
Xwin-LM选拔Vicuna竖立的教导方式，并复古多回合对话。
A chat between a curious user and an artificial intelligence assistant. The assistant gives helpful, detailed, and polite answers to the user's questions. USER: Hi! ASSISTANT: Hello.s>USER: Who are you? ASSISTANT: I am Xwin-LM.s>......
HuggingFace示例
from transformers import AutoTokenizer, AutoModelForCausalLMmodel = AutoModelForCausalLM.from_pretrained(\"Xwin-LM/Xwin-LM-7B-V0.1\")tokenizer = AutoTokenizer.from_pretrained(\"Xwin-LM/Xwin-LM-7B-V0.1\")prompt := \"A chat between a curious user and an artificial intelligence assistant. \"\"The assistant gives helpful, detailed, and polite answers to the user's questions. \"\"USER: Hello, can you help me? \"\"ASSISTANT:\"inputs = tokenizer(prompt, return_tensors=\"pt\")samples = model.generate(**inputs, max_new_tokens=4096, temperature=0.7)output = tokenizer.decode(samples[0][inputs[\"input_ids\"].shape[1]:], skip_special_tokens=True)print(output)# Of course! I'm here to help. Please feel free to ask your question or describe the issue you're having, and I'll do my best to assist you.
VLLM示例
因为Xwin-LM是基于Llama 2微调而来，它还复古使用VLLM进行快速推理。
from vllm import LLM, SamplingParamsprompt := \"A chat between a curious user and an artificial intelligence assistant. \"\"The assistant gives helpful, detailed, and polite answers to the user's questions. \"\"USER: Hello, can you help me? \"\"ASSISTANT:\"sampling_params = SamplingParams(temperature=0.7, max_tokens=4096)llm = LLM(model=\"Xwin-LM/Xwin-LM-7B-V0.1\")outputs = llm.generate([prompt,], sampling_params)for output in outputs:prompt = output.promptgenerated_text = output.outputs[0].textprint(generated_text)
AlpacaEval：易使用、速率快、老本低、过程东谈主类标注考据
手脚一款LLM自动评估用具，AlpacaEval把AlpacaFarm和Aviary进行了招引。
一方面使用与AlpacaFarm疏导的代码（缓存/立时陈设/超参数），另一方面则使用近似于Aviary的排序教导。
与此同期，还对Aviary的教导进行了修改，从而减少对较长输出的偏见。
团队默示，AlpacaEval有着拔群的效率：
- 与东谈主类大宗票的一致性，高于单个东谈主类标注者
- 胜率与东谈主类标注高度关联（0.94）
- 胜率
模子的输出在每个指示上优于text-davinci-003（即参考文本）的比例。
具体而言，源头从AlpacaEval数据围聚会聚了期许模子在每个指示上的输出对，并将每个输出与疏导指示下的参考模子（text-davinci-003）的输出进行配对。
随后，把这些输出同期喂给自动评测器，让它去判断哪一个更好（也即是评测器的偏好）。
临了，将数据围聚整个指示的偏好进行平均，从而得到模子联系于text-davinci-003的胜率。要是两个模子打平，那么就算半个偏好。
论文地址：https://arxiv.org/pdf/2305.14387.pdf
皇冠网app- 局限性
天然AlpacaEval为比较模子遵照指示的才能提供了一种有用的才能，但它并不是对模子才能进行全面评估的黄金尺度。
正如AlpacaFarm论文中胪陈的那样，自动标注器的胜率与长度关联。天然东谈主类标注也会有这种偏差，但当前还不明晰更长的谜底是否会增多下流任务的着力。
此外，AlpacaFarm的评估集天然多各样种，但主要由肤浅的指示构成。
临了，AlpacaEval并不评估任何模子的安全性。
www.crownbettorsguide.com参考贵府：
https://huggingface.co/Xwin-LM/Xwin-LM-70B-V0.1
