我们所有带有Llama标签的文章

顶级笔记本 CPU 查看更多

顶级笔记本 GPU 查看更多

七月 04, 2024

AI PDF 编辑器：使用 UPDF 简化 PDF 编辑和阅读

这是一篇与 UPDF 团队合作撰写的赞助文章。不过，如您所知，我们很少发布赞助内容，只有当我们真正喜欢所推广的产品时才会发布。一段时间以来，PDF 软件大多千篇一律，没有影响普通用户的真正创新。当然，在企业端也有一些改进，但这些产品主要面向大公司，你自己无法获得这些软件。随着人工智能的进步，是时候有人利用这一优势打造一款产品，让大公司和个人用户都能更有效地控制自己的文档，提高工作效率。 UPDF 就是这样一款功能丰富的产品，它是一款由人工智能驱动的新型 PDF 工具，具有一些非常独特的功能。它不仅能帮你为简历或演示文稿创建出色的设计，还能汇总、编辑、转换、保护、填充和签署 PDF，因此它是你文档的全能工具。你还可以与 PDF 聊天，向它询问有关内容的问题。PDF 会回答你的问题，为你的文件赋予生命。最棒的是，它是免费的，所以你可以自己试试。如果你足够喜欢，那么我们还有更好的消息，那就是你可以通过以下链接获得专业版（UPDF Pro），并享受独家折扣。 UPDF 是最值得选择的 PDF 软件！ PDF 软件领域竞争者众多，既有声名狼藉的Adobe Acrobat，也有其他鲜为人知的解决方案。然而，Superace 的 UPDF可以说是您所需要的最好也是唯一的PDF 软件，因为它价格低廉，而且提供您可能需要的所有功能。Adobe Acrobat…

5月 24, 2024

英伟达™（NVIDIA®）发布新版 R555 驱动程序，声称可将 RTX 显卡的 “人工智能性能 “提高 3 倍

是的，是的，华而不实的标题往往会让人大跌眼镜，然而，这一次英伟达确实将 “人工智能性能 “提高了三倍。当然，也有一些注意事项，比如他们所说的人工智能性能究竟是什么意思？英伟达的结果使用 “推理性能”（Inference Performance）来衡量人工智能模型每秒能读取（来自你的提示）和输出（给出答案）多少个代币（Token）（实时数据）。英伟达的性能图表使用的是ONNX ORT。ONNX是一个人工智能联盟，得到了几乎所有希望在其技术栈中大量应用人工智能的大公司的支持。你可以在这里找到所有 ONNX 合作伙伴。ORT 是 ONNX Runtime（ONNX 运行时）的缩写，你猜对了，它就是运行时，你可以在上面运行不同的 LLM。你可以看到，英伟达已经在三种不同的 LLM 上进行了测试，分别是 Meta 的Llama 2 7B、Mistral 7B 和微软的Phi-3-mini-4k。所有的 LLM 都是开源的，因此你可以获得它们，并针对特定原因对它们进行训练。如图所示，英伟达使用了四个不同的驱动程序版本，绿色深浅不一。3 倍性能来自FP16-R550驱动程序与Int4 R555驱动程序的对比结果。但需要注意的是。新驱动程序使用Int4 量化技术。量化是简化 LLM中的数据，使其占用更少的空间，运行时需要更少的GPU 内存。这可以提高性能，但可能导致输出不准确。这是因为，如果不进行量化（FP32）或只进行少量量化（FP16），数据将同样准确，并且不会发生任何转换。当切换到 Int8 或 Int4 量化时，就去掉了浮点 (FP)，这就是我们所说的节省空间。…