计算机视觉领域注意力机制的开篇之作。提出了non-local operations，使用自注意力机制建立远程依赖。- local operations: 卷积(对局部领域)、recurrent(对当前/前一时刻)等操作。- non-local operations用于捕获长距 ...
上周，苹果发布了其M1 SoC。M1采用与最新iPhone相同的A14 CPU，和是十年来首个挑战AMD和Intel等公司的非x86 CPU架构。从那时起，多项关于Apple M1 芯片与AMD和Intel综合测试表明，M1在多个领域处于领先。为此我们的 ...
英特尔与AMD的竞争是乌龟与野兔的竞争。但哪家公司是龟？哪家公司是兔？在过去的几个发布周期中，英特尔和AMD的粉丝之间的评论之战一直很激烈，大量的数字墨水都在讨论这些年来哪个公司有了显著的改善，或者没有明显 ...
前不久，苹果发布了在Arm芯片上运行的Mac机器，当我们惊叹于苹果为何能在自言芯片上不断迈出自己坚实的步伐时，背后到底有怎样的故事呢？一家外媒近期采访了苹果公司软件工程高级副总裁Craig Federighi、苹果全球市 ...
YOLO没有显示求取region proposal的过程。Faster R-CNN中尽管RPN与fast rcnn共享卷积层，但是在模型训练过程中，需要反复训练RPN网络和fast rcnn网络.相对于R-CNN系列的"看两眼"(候选框提取与分类),YOLO只需要Lo ...
预测美国 2020 年总统大选结果的一些民调似乎并没有实现准确的猜测。聚合网站 RealClearPolitics 的数据显示，前副总统拜登比现任总统特朗普领先 7 个百分点，而 FiveThirtyEight 的数据显示，拜登在全国平均至少领 ...
先前的研究认为，海马体（大脑中的一个对记忆来讲至关重要的区域）的模式分离可以使神经元形成不同的神经元群组来存储记忆，这样记忆就不会发生混淆。而历经15年的研究，莱斯特大学系统神经科学系主任Rodrigo Quian ...
一通跑分猛如虎，结果发现深度学习框架还不支持。自 9 月份英伟达发布新一代安培架构消费级显卡 RTX 30 系列已过去两个月了，随着芯片代工者三星的产能爬坡，未来更多的人将有机会买到最新架构的 GPU RTX 3080 和 30 ...
苹果又来了。这次发布会上，三款全新的 Mac 正式释出，最大的亮点，是它们都搭载了苹果自主研发的 M1 芯片。为什么苹果要研发自己的芯片？给电脑换「芯」究竟有多难？过去 15 年，苹果电脑使用的一直是英特尔（Intel ...
集成电路(芯片)应用十分广泛，种类很多，型号十分繁杂。只要出现新的应用需求，就会产生新的芯片。要描绘芯片大家族全貌，首先要对它进行分类。芯片的分类方法可以有许多种，例如按晶体管工作状态、制造工艺、适用性 ...
关注CV领域的小伙伴一定都记得Hinton团队在年初提出的SimCLR，采用自监督的对比学习方法进行encoder的训练，各种碾压之前的模型。所以今年我一直在等某个大招，终于在20年的尾巴看到了一丝希望。今天要介绍的这篇工 ...
药物发现和材料科学的一个基本问题是设计具有优化化学性质的任意分子。由于分子本质上是组合在一起的，化学结构中的任何小扰动都可能导致所需分子性质的大变化。因此，这是一个极具挑战性的数学和计算问题。此外，随 ...
苹果，一个将发布会开成连续剧的公司，终于在北京时间2020年11月11日凌晨2点说出了今年的“One More Thing”——M1芯片，以及搭载M1芯片的MacBook Air、MacBook Pro、Mac mini。似乎是从中国国产电视剧学来的套路， ...
今天，苹果推出了搭载了苹果自研Arm桌面处理器的全新的MacBook系列。得益于公司在硬件和软件之间的垂直集成，这是一个巨大的变化，只有苹果公司才能如此迅速地迎来变革。上一次苹果公司在2006年放弃了IBM的PowerPC I ...
预测到 2024 年左右我国军用无人机产销量有望达到全球无人机市场 25%左右的 份额，我国无人机规模预计将达到 170 亿元人民币，未来十年预计我国军用无人机产值 合计或超 1100 亿元人民币。1、无人装备：正在深刻改变 ...
英特尔公司比其他任何一家公司更能代表“硅谷”中的硅。它不仅通过设计引人注目的新电路来保持统治地位，而且还在自己的工厂中将其蚀刻到硅片中。这是英特尔内部的正统观念。为了蓬勃发展，它必须保留制造计算机大脑 ...
搞AI，谁又没有“GPU之惑”？张量核心、显存带宽、16位能力……各种纷繁复杂的GPU参数让人眼花缭乱，到底怎么选？从不到1000元1050 Ti到近30000元的Titan V，GPU价格的跨度这么大，该从何价位下手？谁才是性价比之王 ...
Horovod 是 TensorFlow、Keras、PyTorch 和 Apache MXNet 的分布式深度学习训练框架。Horovod 的目标是使分布式深度学习快速且易于使用。简单来说就是为这些框架提供分布式支持，比如有一个需求，由于数据量过大（千 ...
卷积这个东东是“信号与系统”中论述系统对输入信号的响应而提出的。因为是对模拟信号论述的，所以常常带有繁琐的算术推倒，很简单的问题的本质常常就被一大堆公式淹没了，那么卷积究竟物理意义怎么样呢？其实我们如 ...
AMD（NASDAQ: AMD）今日公布了2020年第三季度营业额为28亿美元，经营收入4.49亿美元，净收入3.9亿美元，摊薄后每股收益0.32美元。非GAAP经营收入5.25亿美元，净收入5.01亿美元，摊薄后每股收益0.41美元。AMD总裁兼首 ...
这几年，在中兴和华为事件的推动下，国内芯片热潮一浪接着一浪。美国动作一次，热度就增加一分。芯片行业是硬科技，不是互联网，不是靠噱头和流量创造经济。搞芯片技术，还得埋头干，坐冷板凳，坚持长期主义。短期的 ...
二值化神经网络BNN由于可以实现极高的压缩比和加速效果，所以它是推动以深度神经网络为代表的人工智能模型在资源受限和功耗受限的移动端设备，嵌入式设备上落地应用的一门非常有潜力的技术。虽然目前的BNN仍然存在着 ...
Marvell的Arm服务器芯片团队发生了重大变动。一方面，他们美国负责这方面的人员仅剩下一支小团队；另一方面，他们在中国大陆和印度的团队也已经基本已被“清理”。按照知情人士的说法，Marvell已经基本上已经宣布放 ...
毫无疑问，AMD已经成功地以较低的价格在竞争中越战越强，但是利润丰厚的高端市场已经使该公司望而却步。对于PC游戏玩家而言。一旦显卡的价格超过几百美元，那么图形芯片领导者 NVIDIA 的产品就占据了上风。在过去的 ...
10月25日，喀什地区疏附县24日发现1例新冠肺炎无症状感染者后，新疆迅速对其密切接触者、密切接触者的接触者进行核酸检测，截至10月25日14时，检测出137人呈阳性，经专家诊断，均为无症状感染者。后疫情时代，无症状 ...
苹果公司的A14由2个Firestorm内核，4个Icestorm小内核和4个GPU组成。此核心配置与A13相似，因此CPU和GPU的所有性能提升都直接取决于体系结构的变化和时钟p频率的提升。A14的Icestorm小核心已经进行了大的修改，L1i c ...
三星电子李在镕副会长于10月13日紧急访问了荷兰的半导体设备厂家——ASML，并与ASML的CEO Peter Wennink先生、CTO Martin van den Brink先生进行了会谈，且媒体《Business Korea》对此进行了报道。ASML是全球唯一一 ...
接连不断的并购案和与频繁的新品发布让半导体芯片行业处于前所未有的大变局之中。9 月 14 日，英伟达宣布以 400 亿美元的价格从软银手中收购 Arm，补强自己在 CPU 方面的短板，以 CPU+GPU 的方式正式进军云数据中心 ...
谱聚类（spectral clustering）是广泛使用的聚类算法，比起传统的K-Means算法，谱聚类对数据分布的适应性更强，聚类效果也很优秀，同时聚类的计算量也小很多，更加难能可贵的是实现起来也不复杂。在处理实际的聚类问 ...
人工智能模型到底「理解」了什么内容，又是如何「理解」的呢？回答这个问题对于改进人工智能系统来说至关重要。而不幸的是，计算机科学家解释深层神经网络(DNN)的能力远远落后于我们用它们实现有用结果的能力。一种 ...
一颗芯片从无到有，从有需求到最终应用，经历的是一个漫长的过程，作为人类科技巅峰之一的芯片，凝聚了人们的智慧，而芯片产业链也是极其复杂的，在此，我大致把它归为四个部分（市场需求--芯片设计--芯片制造--测试 ...
1950年1月，在美国普渡大学任教的王守武受留美科协的感召决定回国，为刚解放不久的新中国做一点贡献。然而这一年朝鲜战争爆发，杜鲁门当局对中国留学生回国百般阻挠，王守武只得以回乡探望年事已高的寡母为由，通过 ...
图读出操作，顾名思义，就是用来生成图表示的。它的别名有图粗化(翻译捉急，Graph Coarsening)/图池化(Graph Pooling)。对于这种操作而言，它的核心要义在于：操作本身要对结点顺序不敏感。这是为什么呢？这就不得不 ...
在开始正式介绍图卷积之前，我们先花一点篇幅探讨一个问题：为什么研究者们要设计图卷积操作，传统的卷积不能直接用在图上吗？ 要理解这个问题，我们首先要理解能够应用传统卷积的图像(欧式空间)与图(非欧空间)的区 ...
仅使用1％的标签（每类≤13个标签图像），本文提出的方法即可达到73.9％ImageNet top-1准确率，与以前的SOTA相比，标签效率提高了10倍。使用10％的标签，本文的方法可以达到77.5％的top-1准确率，优于使用100%标签的 ...
最近国外半导体逆向工程和IP服务公司ICmasters使用透射电子显微镜（TEM）对Apple的A14仿生芯片系统（SoC）进行了初步分析。揭开了A14裸片（Die)的神秘面纱。裸片尺寸为88mm2，尽管封装了118亿个晶体管，但由于采用了 ...
大浪淘沙沉者为金，风卷残云胜者为王。但对于FPGA这个市场来说，沉者、胜者或许都不是最后的赢家。在2010年以前的FPGA市场中，虽然有赛灵思和Altera两家巨头占据着大部分市场份额，但也有Lattice、Actel等企业在FPGA ...
前段时间OpenCV正式将SIFT算法的实现从Non-free模块移到主库（OpenCV 4.4 发布！SIFT移到主库，新增YOLOv4 和 EfficientDet 推断支持），因SIFT专利到期了（专利授权后，从申请日开始有20年的保护期）。美国林肯总统 ...
DeepMind发表了一项新研究，展示了深度学习如何帮助解决现实系统中的量子力学基本方程问题，相关论文发表在物理学期刊《Physical Review Research》，代码也已经开源。这种新的神经网络架构叫做Fermionic神经网络或F ...
自1950年代以来，中央处理器“ CPU”一直是每台计算机或智能设备的核心；到1990年代以来，GPU或图形处理单元扮演了重要角色；所以，在过去的十年中，计算已经摆脱了PC和服务器的繁琐局限，CPU和GPU为庞大的新超大规 ...
最近几年，经常关注科技圈的朋友们总会发现，每次遇到厂商有重大发布，就总能看到“颠覆”、“极致”、“革命性”等概念出现在发布会上。前几天，iPhone12的发布现场，蒂姆库克就用上了“新纪元”的字眼，准确地说应 ...
深度学习是一个瞬息万变的领域，层出不穷的论文和新思路可能会令人不知所措。即使是经验丰富的研究人员，也很难准确将研究成果传达给公司的公关部门，继而传达给大众。对于初学者来说，理解和实现这些技术有利于打下 ...
近年来，深度神经网络正在计算机视觉、自然语言处理和语音识别等多种领域发挥着重要作用，推动了人工智能的发展。但是，深度神经网络仍存在一些局限性，例如这些模型的决策过程通常无法向用户解释。但同时，在医疗、 ...
芯片行业是一个集人类智慧之大成，超级烧脑，挥金如土，永远追求卓越的行业。也是一个灭门许多前辈行业，信奉成王败寇，永远创新，激烈竞争，看似走火入魔的一个科技江湖。集成电路(芯片)应用十分广泛，它对国民经济 ...
如果说互联网的目标就是连接一切，那么推荐系统的作用就是建立更加有效率的连接，推荐系统可以更有效率的连接用户与内容和服务，节约了大量的时间和成本。如果把推荐系统简单拆开来看，推荐系统主要是由数据、算法、 ...
深度学习是一个广阔的领域，它围绕着一种形态由数百万甚至数十亿个变量决定并不断变化的算法——神经网络。似乎每隔一天就有大量的新方法和新技术被提出来。不过，总的来说，现代深度学习可以分为三种基本的学习范式 ...
近期，中国电科集团电科院开展了陆空协同固定翼无人机“蜂群”系统的相关试验试飞工作，验证了陆上发射和空中投放固定翼无人机“蜂群”开展对地察打、精确打击等各项任务能力。相比于旋翼/多旋翼无人机，固定翼无人 ...
没有顶尖的光刻机，是我国半导体行业发展的最大瓶颈。在这个领域称得上龙头的，荷兰的阿斯麦尔(ASML)首屈一指。10月14日，ASML的首席财务官Roger Dassen就向中国出口光刻机的问题发表了口头声明。他说，与中芯国际等 ...
我们都知道预训练模型的标准范式：pretrain-利用大量的未标记数据通过一些自监督的学习方式学习丰富的语义和句法知识。例如：Bert 的 MLM，NSP 等等。finetune-将预训练过程中所学到的知识应用到子任务中，以达到优 ...
最早的GNN主要解决的还是如分子结构分类等严格意义上的图论问题。但实际上欧式空间(比如像图像 Image)或者是序列(比如像文本 Text)，许多常见场景也都可以转换成图(Graph)，然后就能使用图神经网络技术来建模。2009 ...
今年6月，OpenAI发布一款强大的文本生成模型GPT-3，不少网友迅速上手用了起来，有人用它写食谱、写歌词，甚至有人用它写博客，愣是以假乱真登上了新闻平台技术板块热榜第一。前不久，OpenAI再次放出大招。这次，研究 ...
英特尔一统服务器芯片江湖已经很久了。虽然在这期间有IBM和MIPS前来挑战，但他们谁都无法撼动英特尔的地位。进入了二十一世纪以后，凭借移动领域而迅速崛起的Arm，为“高处不胜寒”的英特尔增添了一丝火热——Arm开 ...
Application scorecard 进件评分卡，对授信阶段提交的资料赋值的规则。举例：“进件”是传统银行的说法，指申请单。评分卡是对一系列用户信息的综合判断。随着可以收集到的用户信息变多，授信决策者不再满足于简单的 ...
本文从从老祖级别的 word2vec 开始，从头到尾梳理了 GPT 的 「家谱」 和 word2vec 领衔的庞大的 NLP「家族集团」。GPT 不是凭空而出，它是经过了很多人的努力，以及很长一段时间的演化得来的。因此，梳理一下 GPT 的 ...
在CPU芯片领域，延续至今的“摩尔定律”正在随着制程工艺逼近物理极限而有了延缓的趋势，甚至失效的可能。就在摩尔定律的增长放缓脚步的同时，半导体芯片的计算也正在从通用走向专用，其中AI计算正是其中增长最快的 ...
众所周知，深度学习是一个很吃算力的领域，所以，GPU 选得好不好直接决定了你的炼丹体验。那么，哪些指标是你在买 GPU 时应该重视的呢？RAM、core 还是 tensor core？如何做出一个高性价比的选择？文本将重点讨论这 ...
Transformer架构在机器学习领域（尤其是NLP里）是一项热门研究，为我们带来了许多重要成果，比如：GPT-2、GPT-3等写稿机器人；第一代GPT及其性能更优越的“继任者”BERT模型，在众多语言理解任务中以前所未有的数据 ...
协同过滤是基于用户行为设计的推荐算法，具体来说，是通过群体的行为来找到某种相似性（用户之间的相似性或者物品之间的相似性），通过相似性来为用户做决策和推荐。从字面上理解，协同过滤包括协同和过滤两个操作。 ...
这些年来，相信各位闲闲没事，就会在网路各角落看到，不同领域的各路英雄好汉一直有相同疑惑：为何今天的x86 处理器市场，台面上只剩下英特尔和AMD 两家美国公司？顶多再加个存在感稀薄的台湾VIA，和少人知悉的俄罗 ...
文本分类是NLP最常见的应用之一，有了BERT之后更是可以通过小批量数据精调达到不错的效果。但在对速度要求高、没有钱买GPU、移动设备部署的场景下，还是得用浅层网络。今天就跟大家介绍Google最近新出的一个模型—— ...
YOLO没有显示求取region proposal的过程。Faster R-CNN中尽管RPN与fast rcnn共享卷积层，但是在模型训练过程中，需要反复训练RPN网络和fast rcnn网络.相对于R-CNN系列的"看两眼"(候选框提取与分类),YOLO只需要Lo ...
BERT中及XLNet和RoBERTa中，词嵌入大小 E 和隐藏层大小 H 相等的，H =E=768；而ALBERT认为，词嵌入学习单个词的信息，而隐藏层输出包含上下文信息，应该 H>>E。所以ALBERT的词向量的维度小于encoder输出值维度。 ...
车牌识别是一种图像处理技术，用于识别不同车辆。这项技术被广泛用于各种安全检测中。现在让我一起基于OpenCV编写Python代码来完成这一任务。第一步是从汽车上检测车牌所在位置。我们将使用OpenCV中矩形的轮廓检测来 ...
近年来，自监督学习逐渐成为了备受人们关注的应对标注缺乏问题的热门解决方案，科研人员在基于对比学习的自监督方法方面进行了大量研究。本文是 PyTorch Lightning 创始人 William Falcon 的对比学习综述，对自监督 ...
近日，CMU 的研究人员在 arXiv 上放出了一份技术报告，介绍他们如何通过蒸馏（distillation）训练一个强大的小模型。所提出方法使用相同模型结构和输入图片大小的前提下，在 ImageNet 上的性能远超之前 state-of-the ...
大家都知道现在GPT3风头正盛，然而，到处都是GPT3、GPT3地推，读者是否记得GPT3的论文的名字呢？事实上，GPT3的论文叫做《Language Models are Few-Shot Learners》，标题里边已经没有G、P、T几个单词了，只不过它跟 ...
BERT，全称 Bidirectional Encoder Representation from Transformers，是一款于 2018 年发布，在包括问答和语言理解等多个任务中达到顶尖性能的语言模型。它不仅击败了之前最先进的计算模型，而且在答题方面也有超 ...
计算机视觉主要问题有图像分类、目标检测和图像分割等。针对图像分类任务，提升准确率的方法路线有两条，一个是模型的修改，另一个是各种数据处理和训练的技巧(tricks)。图像分类中的各种技巧对于目标检测、图像分割 ...
今天，Arm公布下一代Neoverse服务器CPU设计，不仅公布N系列的第二代产品N2，还首次推出了全新产品类别Neoverse V系列平台，剑指最高单线程性能。Neoverse V1内核（代号Zeus）支持可伸缩扩展（SVE），具备更高的单线 ...
随着人工智能技术的发展，智能对话的应用场景越来越多，目前已经成为了研究的热点。天猫精灵，小度小度，腾讯叮当，这些智能助手都是智能对话在业界的应用。智能助手的对话方式可分为三种：任务式对话 ( 用户输入指 ...
当地时间9月22日，微软在官网发布通告，与OpenAI合作，独家获取了GPT-3语言模型的使用许可。这份通告以微软首席技术官凯文·斯科特（Kevin Scott）的身份发出，称微软正在与OpenAI合作，独家授权GPT-3使用。“这使我 ...
据台媒经济日报透露，台积电2纳米制程研发获重大突破。供应链透露，有别于3纳米与5纳米采用鳍式场效电晶体（FinFET）架构，台积电2纳米改采全新的多桥通道场效电晶体（MBCFET）架构，研发进度超前，业界看好2023年下 ...
在过去的十年中，深度神经网络从根本上变革了自然语言处理（NLP）领域的发展，但移动端有限的内存和处理能力对模型提出了更高的要求。人们希望它们可以变得更小，但性能不打折扣。去年，谷歌发布了一种被称为 PRADO ...
在检测行人任务中，由于行人之间互相遮挡，导致传统的检测器容易受遮挡的干扰，给出错误的预测框。研究人员先是从数据集上进行分析，定量描述了遮挡对行人检测带来的影响。后面受吸引，排斥的启发，提出了Repulsion ...
近日，NVIDIA 斥资 400 亿美元收购 Arm 的消息疯狂刷屏，看来今年挤爆牙膏的老黄确实够豪横。但很快也有业内人士表达了对此次收购案的担忧，认为立场原本相对中立的 ARM 生态一旦落入 NVIDIA 手中，对整个行业带来的 ...
说起绘制空间数据相关的可视化作品，R语言还是比Python 要方便的多的。这里我们就简单介绍下tmap 空间数据可视化绘图包。值得注意的是，tmap 拥有类似于ggplot2 “图层” 语法绘图原理，熟悉ggplot2绘图的小伙伴肯定 ...
美国时间 8 月 28 日下午，侵入式脑机接口技术公司 Neuralink 的创始人、科技英雄「硅谷钢铁侠」埃隆-马斯克举行了他戏称为「三只小猪」的发布会。通过「遛猪」的方式，向世界宣布和展示了 Neuralink 团队在过去一年 ...
今日凌晨，苹果新一代A14仿生芯片“甩开”历年硬件主角iPhone，首次搭载于苹果新一代平板产品iPad Air上抢跑发布！在此之前，有关A14芯片的行业“剧透”已被曝光了太多，而苹果此次一改iPad系列产品均采用“特别增强 ...
英伟达欲以400亿美元的价格从软银手中收购Arm的传言，在9月14日伴随着英伟达与软银联合发布的一则公告而终止。据英伟达公告显示，这笔400亿美元的拟议中的交易要符合惯例成交条件，包括收到英国，中国，欧盟和美国的 ...
CNN 和 RNN是当下 Deep Learning 应用领域中主流的两大结构。前篇文章中我们介绍了 CNN，本篇开始我们聊聊 RNN。RNN 跟 CNN 历史相似之处在于，都是上个世纪提出来的概念。但是由于当时计算量和数据量都比较匮乏，它 ...
ARM出售案又有新进展，软银出售ARM给英伟达的消息即将尘埃落定，这一交易金额将高达400亿美元。据福布斯今日消息，日本软银集团（SoftBank Group Corp.）准备以超过400亿美元的价格将英国的ARM Holdings销售给美国芯 ...
光刻胶又称光致抗蚀剂，是一种对光敏感的混合液体。其组成部分包括：光引发剂（包括光增感剂、光致产酸剂）、光刻胶树脂、单体、溶剂和其他助剂。光刻胶可以通过光化学反应，经曝光、显影等光刻工序将所需要的微细图 ...
ReLU是深度学习中很重要的里程碑，简单但强大，能够极大地提升神经网络的性能。目前也有很多ReLU的改进版，比如Leaky ReLU和 PReLU，而这些改进版和原版的最终参数都是固定的。所以论文自然而然地想到，如果能够根据 ...
实际上，小目标检测是目标检测落地应用中非常棘手的问题，比如经常在遥感/无人机目标检测、人脸检测应用中出现。小目标检测（Small/Tiny Object Detection）概念很好理解，定性分析简单来说就是：相对于图像占比很小 ...
GPT，全称是Generative Pre-training，顾名思义，就是预训练模型。在GPT出现之前，通用的使用预训练的方式是word2vec，即学习词语的表达。而在GPT出现之后，通用的预训练方式是预训练整个网络然后通过微调(fine-tune ...
Transformer模型是机器翻译领域的一个全部基于attention的模型。那么什么是attention呢？且看下图。图中是一个seq2seq+attention的机器翻译模型。机器翻译问题中分为源语言和目标语言，图中是英语到西班牙语的翻译， ...
LSTM 之父、深度学习元老 Jürgen Schmidhuber 发文纪念 10 年前发表的研究。Jürgen Schmidhuber 每次发博客都会引起一阵「腥风血雨」，这次似乎也不例外。最近，这位机器学习大牛发布博客，纪念 10 年前发表在 Neu ...
今天，英特尔推出新一代移动PC处理器——第11代智能英特尔酷睿处理器，代号Tiger Lake，搭载英特尔锐炬Xe显卡，并首次加入全新SuperFin晶体管技术。据介绍，Tiger Lake的CPU性能提升逾20%，显卡性能提升高达2倍，在G ...
前几年的“人工智能热”让大小厂商陆续跳入AI芯片的研发大军中，而当这股潮水褪去，当初的50多家公司大多数都黯然退出历史舞台，如今只剩10家左右。AI芯片的风口已然过去。据艾瑞咨询发布的2019年《AI芯片行业研究报 ...
据台媒工商时报援引业界消息，苹果或将配合其首款自研Mac芯片Apple Silicon，推出自研的GPU。这款GPU代号为Lifuka，或将搭载于2021年下半年推出的iMac，与苹果自研的Mac处理器Apple Silicon一样，由台积电5nm制程工 ...
最近，在一篇发表于《皇家社会科学学会》期刊上的研究中，来自诺基亚贝尔实验室（Nokia Bell Labs）和罗马大学的三位研究员合力使用AI算法分析了数千个梦，表示AI可以识别并量化梦的特征，特征之间的相互关系，以及 ...
经过一年努力，OpenKG初步完成了底层区块链平台测试，以及OpenKG数据集、工具集和Openbase细粒度知识众包的上链测试工作。在这个测试平台中，已包含1033位确权的知识贡献者。上链测试两个月，累计由真实知识消费者触 ...
众所周知，经典的transformer架构中采用了multi-head attention机制来引导模型从不同角度学习不同的语义信息，从各种实验对比中也能发现多头机制确实能够提升模型在NLP任务上的精度。然而，随着目前大规模预训练模型 ...
今年的hotchip上marvell展示了其基于ARM架构的Thunder X3服务器芯片。Marvell在fabless厂商中应该算是鼎鼎大名，从硬盘控制芯片起家至今，已经发展成为包含丰富产品线的综合性公司。其中ARM处理器产品线，除了这次展 ...
当前，美国对中国企业、高校和个人的制裁越来越频繁。以这个星期为例，本周三，美国商务部宣布将24家中国企业列入制裁名单；本周五，美国国防部宣布,认定11家中国企业为中国军方拥有或控制，为美出台新一轮制裁铺路 ...
近几年来，人工智能技术得到了飞速发展，其进展突出体现在以知识图谱(Knowledge Graph)为代表的知识工程和以图神经网络(Graph Neural NetWorks, GNN)为代表的深度学习等相关领域。融合知识图谱与图神经网络已然成为 ...
文章所研究的“跨领域情感分析”，旨在通过源领域的标注数据对目标领域的无标注数据进行情感分类。源领域如餐饮领域，目标领域如电子产品领域，这两个领域之间存在一定的差异。为了克服领域间的差异，一大类工作的思 ...
去年 9 月，美国军事研究部门 DARPA 启动了一项名为 “ACE” 的 AI 空战计划，旨在借助 AI 算法训练战斗机自主参与空战。如今，这一计划收获了初步成效。据英国科技媒体 The Register 报道，近日，美国军事研究部门 ...
近年来，机器学习(Machine Learning)领域的研究和发展可谓是与日俱新，各式各样与机器学习相关的研究成果与应用层出不穷（如图像识别，自动驾驶，语音识别等），机器学习能够处理的任务也愈发的复杂。但与此同时，新 ...
在信号处理、图像处理和其它工程/科学领域，卷积都是一种使用广泛的技术。在深度学习领域，（CNN）这种模型架构就得名于这种技术。但是，深度学习领域的卷积本质上是信号/图像处理领域内的互相关（cross-correlation ...
台积电近日在线上研讨会上透露了有关于先进制程的大量资讯，目前刚量产的5 纳米制程良率已经迅速超过7 纳米，对于苹果A14X 芯片以及AMD Zen 4 处理器都是非常好的消息。通常半导体制程良率是随着时间而下降，并获得 ...
台积电是全球领先的晶圆代工厂，这是一个不争的事实。根据集邦咨询的最新数据预测，受惠于5G建设持续部署、高效能运算和远程办公教学的CPU、GPU等强劲需求，台积电产能维持满载，二公司在2020年第三季的营收预计将增 ...
在台积电第26届技术研讨会上，台积电揭秘其3nm工艺节点的更多细节，并分享了5nm后续产品N5P和N4工艺节点的相关进展。台积电在先进制程领先的道路上一往无前，计划3nm技术于2021年进入风险生产、在2022年开始量产，而 ...
前几天逛github刷到一个『awesome-fast-attention』大列表，整理了一系列关于attention的高效改进文章，包括论文、引用量、源码实现、算法复杂度以及关键亮点。
现代电子产品和设备在诸如通信 、娱乐 、安全和医疗保健等许多方面改善了我们的生活质量 ，这主要是因为现代微电子技术的发展极大地改变了人们的日常工作和互动方式。在过去几十年中，摩尔定律一直是通过不断缩小芯 ...
提到激活函数，最想问的一个问题肯定是它是干什么用的？激活函数的主要作用是提供网络的非线性表达建模能力，想象一下如果没有激活函数，那么神经网络只能表达线性映射，此刻即便是有再多的隐藏层，其整个网络和单层 ...
深度决定了网络的表达能力，网络越深学习能力越强。宽度（通道数）决定了网络在某一层学到的信息量，另外因为卷积层能重组通道间的信息，这一操作能让有效信息量增大（这也是1x1卷积的作用，它能学习出重组信息，使 ...
在现有的网络结构设计指导下，似乎卷积层后跟一个池化层下采样，已经是一个准则。我们重新思考了现有SOTA网络，并得出结论最大池化层是能被卷积层给替代。我们设计了一系列小网络，并提出了一种新的「反卷积方法」来 ...
2019 年，GPT-2 凭借将近 30 亿条参数的规模拿下来“最强 NLP 模型”的称号；2020 年，1750 亿条参数的 GPT-3 震撼发布，并同时在工业界与学术界掀起了各种争论。随着时间的推移，争论的焦点也发生了变化，人们逐渐 ...
近年来，在人工智能（AI）、5G等推动下，以MRAM（磁阻式随机存取存储器）、铁电随机存取存储器 (FRAM)、相变随机存取存储器（PRAM），以及可变电阻式随机存取存储器（RRAM）为代表的新兴存储技术逐渐成为市场热点。 ...
各位炼丹师平时“炼丹”时最多跑过多深的神经网络呢？152层，256层，还是更多层？那各位跑过最宽的神经网络又有多宽呢？可能一层撑死有10个或20个神经元？对第二个问题，谷歌的回答是：我可以跑无限宽的神经网络。也 ...
BLURB 包括 13 个公开可用的数据集，涉及 6 个不同的任务。为了避免偏重多可用数据集的任务，如命名实体识别（NER），BLURB 的报告和排名，将所有任务的宏观平均数作为主要得分。BLURB 排行榜是不分模型的。任何能够 ...
昨天Kaggle 全球小麦检测（Global Wheat Detection）比赛落下帷幕，共计2,270 支队伍参赛。比赛结束后，讨论区本该是晒成绩或者解决方案的，但却出现了大量关于"YOLOv5"的讨论。因为YOLOv5的license 是GPL 协议 ...
基于Transformer的架构主要用于建模语言理解任务，它避免了在神经网络中使用递归，而是完全依赖于self-attention机制来绘制输入和输出之间的全局依赖关系。
大概一个月之前，史上最巨无霸NLP模型GPT-3问世。当时它向世界展示的能力是，“不仅会写短文，而且写出来的作文挺逼真的，几乎可以骗过人类，可以说几乎通过了图灵测试。”可能是因为它的前一代模型GPT-2也因“擅长 ...
Facebook 通过 PyTorch 官方博客宣布，微软已扩大了对 PyTorch 社区的参与，现在拥有 PyTorch 在 Windows 上的开发和维护所有权。PyTorch 是基于 Torch 的开源 Python 机器学习库，由 Facebook 的人工智能研究团队开 ...
7月31日， 据两名知情人士透露，美国芯片公司英伟达正在洽谈以现金加股票的方式从软银手中收购其英国芯片设计子公司Arm，这笔交易对ARM的估值超过320亿美元。据悉，谈判始于近几个月，此前英伟达曾就潜在收购事宜与 ...
尽管机器学习有望作为一种强大的医学工具，但统计学家警告说，当前的模型存在严重的缺陷。多年来，许多人工智能发烧友和研究人员一直坚信机器学习将改变现代医学。他们已经开发了数千种算法来诊断癌症，心脏病和精神 ...
7月29日，PyTorch 1.6、TenorFlow 2.3、Pandas 1.1恰巧同时发布。这三个库都是定期滚动更新，大约每个季度更新一次小版本。在AI内卷化达到“灰飞烟灭”的今日，仅仅会对PyTorch或TensorFlow进行调用已经不具有竞争力 ...
“我们的分析明确指出，嘈杂的数据收集管道是如何导致结果基准与其作为代理的实际任务之间的系统性不一致的”， 麻省理工学院的研究人员 在一篇题为《从 ImageNet 到图像分类：基准测试的情景化进展》的论文中写道， ...
服务器系统CentOS 6.X，部署了nginx，tomcat，redis等应用，上来先把数据库全备份到本地，然后top命令看了一下，有2个99%的同名进程还在运行，叫gpg-agentd。GPG提供的gpg-agent提供了对SSH协议的支持，这个功能可以 ...
索引对大数据的查询速度的提升是非常大的，Explain可以帮你分析SQL语句是否用到相关索引。索引类似大学图书馆建书目索引，可以提高数据检索的效率，降低数据库的IO成本。MySQL在300万条记录左右性能开始逐渐下降，虽 ...
ZooKeeper是用来协调（同步）分布式进程的服务，提供了一个简单高性能的协调内核，用户可以在此之上构建更多复杂的分布式协调功能。脑裂通常会出现在集群环境中，比如Elasticsearch、ZooKeeper集群，而这些集群环境 ...
假设您正在开发一个Java程序，有许多办法可以让您的应用连上数据库。下面会列举各数据库访问框架的适用场景，相信能够帮您选到适合项目的开发框架。JOOQ提供了一种DSL来解决查询问题。这种语言基于生成的entity对象 ...
近日，C++ 之父 Bjarne Stroustrup 接受采访，谈及 C++ 的设计思想，以及 C++ 发展历程的关键转折点。1979 年，还在贝尔实验室的 Bjarne Stroustrup 着手开发 C++ 语言。C++ 的出发点之一是改进 C 语言，增加了面向 ...
工业界的垃圾回收器，一般都是上篇中几种垃圾回收算法的组合实现。下图中列举了最常见及最新的几种垃圾回收器，大多数的垃圾回收器均采用了分代设计（或者适用于分代场景），且一般有固定的搭配使用模式，每种垃圾回 ...
一般情况下，数据都是在数据库中，应用系统直接操作数据库。当访问量上万，数据库压力增大，这个时候，怎么办呢？有小伙伴会说，分库分表、读写分离。的确，这些确实是解决比较高的访问量的解决办法，但是，如果访问 ...
目前企业级的大数据应用主流还是采用Yarn或者Mesos来进行资源分配和运行调度的，例如我行目前采用Yarn来进行作业调度，并使用HDFS作为大数据的存储平台，这是典型的计算和存储紧耦合的模式，这种方案是通过数据本地 ...
服务注册中心本质上是为了解耦服务提供者和服务消费者。对于任何一个微服务，原则上都应存在或者支持多个提供者，这是由微服务的分布式属性决定的。更进一步，为了支持弹性扩缩容特性，一个微服务的提供者的数量和分 ...
2020年11月，DB-Engines 流行度排行已经出炉，本月前十名的位置上，Redis 上升一位，和 Elasticsearch 交换了位置，其他数据库产品位次保持不变。在11月的排行榜上，分数下降的居多，前十位仅有 3个 数据库产品录得 ...
近日，GitHub 安全研究员 Kevin Backhouse 发现了 Ubuntu 20.04（一个长期支持版本）中的漏洞，该漏洞可以使任何桌面用户无需系统密码，即可添加新的 sudo 用户，并获得 root 访问权限。Backhouse 指出，利用该漏洞 ...
Kafka宕机引发的高可用问题，问题要从一次Kafka的宕机开始说起。笔者所在的是一家金融科技公司，但公司内部并没有采用在金融支付领域更为流行的 RabbitMQ ，而是采用了设计之初就为日志处理而生的 Kafka ，所以我一 ...
破解内卷的方法是什么？最简单的是根本不去内卷的行业和领域混，自己开辟一个领域和行业。举个不一定恰当的例子，李诞如果按照自己华南农业大学大部分同学所走的路子，估计也很难逃过内卷，但他进了一个在中国刚开始 ...
几个小时前，Python 之父 Guido van Rossum 宣布了他已经加入微软的消息。去年 10 月，Van Rossum 在 Dropbox 公司工作了六年半后决定退休。在大多数顶级程序员都享受退休生活的时代，现年 64 岁的 van Rossum 决定 ...
Elasticsearch默认被配置为使用单播发现，以防止节点无意中加入集群。组播发现应该永远不被使用在生产环境了，否则你得到的结果就是一个节点意外的加入到了你的生产环境，仅仅是因为他们收到了一个错误的组播信号。E ...
随着生活节奏的加快，工作压力的加大，越来越多的人开始注重健身，如此一来，可穿戴健身追踪设备就变得很流行。如果仔细观察，会发现身边已经有很多朋友开始使用这类设备，或用于健身或用于减肥，这些设备可以记录健 ...
随着云原生技术的蓬勃发展，为各种分布式集群环境的实施提供了非常便利的条件。Elastic Stack是一种非常优秀的分布式搜索解决方案，但是由于其组件较多且有很多配置，因此在搭建集群时存在一定难度。这里我们提供一 ...
Rsync 是一种快速且通用的命令行实用程序，可通过远程shell在两个位置之间同步文件和文件夹。使用 Rsync，可以镜像数据，创建增量备份，并在系统之间复制文件。复制数据时，你可能要根据文件名或位置排除一个或多个 ...
本周最新一期《Nature》期刊，刊载了一种利用原子薄型半导体，设计兼顾逻辑计算和数据存储能力的芯片的方法。通过把两种功能结合于单一芯片结构，这种新型芯片可以更高效地驱动设备，或能用于推动AI方面的研究。这项 ...
随着云原生技术的蓬勃发展，现在科技人员对于学习和使用该新技术有着强烈的需求，但是由于该技术对所使用的软硬件都有较高的要求，一定程度上提高了学习的门槛。虽然采用Minikube也可以搭建环境，但是由于Minikube具 ...
量子力学确实很难以我们日常生活的经验和观察来理解。但这不妨碍我们抽象地领会关于量子力学一些最核心的内涵，形成最基础的“量子化思维”。
为什么很难用日常思维来理解？1900年，当人们欢庆经典物理学大厦已经基 ...
不论是临近毕业的学生，还是已经进入职场的人士，工作的稳定性，对每个人来说，都是很重要的。毕竟，谁都不希望今天入职，不到几个月就得换工作的事情发生在自己身上。能在一份工作上长久坚持，无疑是困难的。幸运的 ...
审核和编写报警规则时，需要考虑以下的这些原则：报警的（电话，短信）触达应当是紧急的，重要的，可行动的，真实的。规则应当表示是你的服务处于过程中或者即将发生的问题。为了保持报警项的精确，有效；宁可过度移 ...
文件系统要解决的一个关键问题是怎样防止掉电或系统崩溃造成数据损坏，在此类意外事件中，导致文件系统损坏的根本原因在于写文件不是原子操作，因为写文件涉及的不仅仅是用户数据，还涉及元数据(metadata)包括 Super ...
在高频交易的世界中，自动化应用程序每天处理数亿个市场信号，并在全球各个交易所发送成千上万的订单。为了保持业务竞争力，响应时间必须始终保持在微秒级，尤其是在黑天鹅异常事件等高峰期。在典型的体系结构中，金 ...
现在每年高考的招生数量都已经超过800万，由于各个专业的毕业生人数不同，企业的需求也不同，所以各个专业的就业率情况也存在着很大的差异。本文就来看下根据教育部以及《人民日报》统计的数据，有8个专业是是被亮红 ...
TIOBE 公布了 2020 年 11 月的编程语言排行榜。Python 已成功跃居榜单第二名，本月排名率为 12.12%；Java 被挤到第三位，排名率降至 11.68%。自有 TIOBE 榜单以来，C 和 Java 之前一直占据着前两名的位置。然而现如 ...
监控作为底层基础设施的一环，是保障生产环境服务稳定性不可或缺的一部分，线上问题从发现到定位再到解决，通过监控和告警手段可以有效地覆盖了「发现」和「定位」，甚至可以通过故障自愈等手段实现解决，服务开发和 ...
在2019年PyTorch开发者大会上，Facebook，Google和Salesforce Research联合宣布启动PyTorch-TPU项目。项目的目标是在保持PyTorch的灵活性的同时让社区尽可能容易地利用云TPU提供的高性能计算。团队创建了PyTorch/XLA ...
AIOps，最初的定义是Algorithm IT Operations，是利用运维算法来实现运维的自动化，最终走向无人化运维。随着技术成熟，逐步确定为Artificial Intelligence for IT Operations——智能运维，将人工智能应用于运维领 ...
平均负载可以对于我们来说及熟悉又陌生，但我们问平均负载是什么，但大部分人都回答说平均负载不就是单位时间内CPU使用率吗？其实并不是这样的，如果可以的话，可以 man uptime 来了解一下平均负载的详细信息。简单 ...
设计模式是在编写代码时在各种不同情况下出现的模式。在本文中，我将讨论 Newtype 设计模式。具体来说，我将以 Rust 编程语言为背景来讨论它，以及如何解决在 Rust 中使用 Newtype 模式时出现的一些问题。编程设计模 ...
Kafka 。业务线从Kafka接数据自己做数据的聚合计算。主要问题在于完全没有数仓的概念，业务线在做大量重复的建设。Spark + ES。每来一个业务需求，就构建一个Spark+ES集群（spark负责计算写入到ES，ES业务层直接使用 ...
用户需求和云的发展两条线推动了云原生技术的兴起、发展和大规模应用。本文将主要讨论什么是云原生应用，构成云原生应用的要素是什么，什么是Serverless 计算，以及Serverless如何简化技术复杂度，帮助用户应对快速 ...
曾有文章称中国近代著名科学家徐寿先生是第一位发表Nature论文的中国人。据称这篇“论文”讨论的是乐器的声学问题，发表在1881年3月10日的Nature。事实是否真的如此呢？我们应读者的要求，对此予以考证，结果有很多 ...
TCP/IP协议模型，包含了一系列构成互联网基础的网络协议，是Internet的核心协议。基于TCP/IP的参考模型将协议分成四个层次，它们分别是链路层、网络层、传输层和应用层。下图表示TCP/IP模型与OSI模型各层的对照关系 ...
“一条慢查询会造成什么后果？之前我一直觉得不就是返回数据会慢一些么，用户体验变差？”其实远远不止，我经历过几次线上事故，有一次就是由一条 SQL 慢查询导致的。那次是一条 SQL 查询耗时达到 2-3 秒「没有命中 ...
洛伦茨是一位气象学家，研究大气物理，曾孜孜不倦地去探索多年来被学术界认为“算不上是科学” (“less than science”）的“长期天气预报”。气象学家甚至普通人都知道，长期天气预报是不精确的：谁知道明年的今天 ...
多版本并发控制 技术的英文全称是 Multiversion Concurrency Control ，简称 MVCC 。是通过保存数据在某个时间点的快照来实现并发控制的。也就是说，不管事务执行多长时间，事务内部看到的数据是不受其它事务影响的 ...
接近传感器在操作中可以进一步分为接触式或非接触式，以及模拟或数字。传感器的选择取决于物理，环境和控制条件。可以采用任何合适的机械/电气开关，但是由于操作机械开关需要一定的力，所以通常使用微型开关。这些 ...
几年前，你在填高考志愿时怀着憧憬填写了电子／半导体物理／微电子专业；在顺利进入大学，并经历了数年的学习后，决定继续出国深造。小编作为当年的出国党之一，希望在这篇文章中把多年来在国内和国外积累的各种相关 ...
1956 年，福特公司上市，成为有史以来最大的 IPO。由于融资规模巨大，这次公开募股，几乎囊括了华尔街的每一家公司，其中就包括巴菲特的伯克希尔哈撒韦。64 年后的 2020 年 9 月，SNOWFLAKE 上市，成为有史以来软件 ...
只要解出薛定谔方程，你就能预测分子的化学性质。但现实很骨感，迄今为止，科学家只能精确求解一个电子的氢原子，即使是只有两个电子的氦原子都无能为力。原因是有两个以上电子组成的薛定谔方程实在太复杂，根本无法 ...
当地时间 10 月 20 日，《自然》的出版方施普林格·自然（Springer Nature）宣布与德国马克斯·普朗克研究所数字图书馆（Max Planck Digital Library, MPDL） 签订一项为期 4 年的开放获取（OA）出版协议：从 2021 ...
老实说，我很喜欢 Java。我在 Spiral Scout 工作的那几年，使用了 EJB2、DB2 和 Oracle 等后端技术，积累了很多软件开发方面的专业知识。过去几年，我转向基于自然语言处理的机器人项目，涉及的技术包括 Spring Boot ...
“Salesforce成为比Siebel更伟大的公司，因为他们彻底改变了CRM。ServiceNow成为比BMC更伟大的公司，因为他们彻底改变了ITSM（IT服务管理）。而Snowflake将彻底改变数仓，以我们从未想过的方式。”这段话来自Snowfla ...
近日，国外用于评分的在线软件提供商 KeepTheScore 猛然发现生产数据库被意外删除，超过 300 块计分牌及相关数据瞬间化为乌有。好在该公司使用的数据库是云托管数据库，云提供商每天都会进行一次自动备份。经历了 5 ...
那是 1983 年，Oracle 还是一家小公司。当时，拉里·埃里森正专注于重写满是 bug 的数据库产品，而计算机教授、后来成为数据库传奇人物的 Michael Stonebraker 正在迎头追赶。在《软件战争》（Softwar）一书中，Matt ...
中国央行的数字人民币已经离我们越来越近了，深圳市民成了第一批尝鲜者。“恭喜您参与的‘礼享罗湖’活动已中签。”这两天，参与前期“礼享罗湖数字人民币红包”的深圳市民中，一部分幸运儿已经陆续收到了中签短信。 ...
操作系统中的 CPU 和主内存（Main memory）都是稀缺资源，所有运行在当前操作系统的进程会共享系统中的 CPU 和内存资源，操作系统会使用 CPU 调度器分配 CPU 时间并引入虚拟内存系统以管理物理内存，本文会分析操作 ...
高等教育评价专业机构软科10月15日正式发布“2020软科中国最好学科排名” 。软科中国最好学科排名采用的学科口径是教育部最新《学位授予和人才培养学科目录》中的一级学科。在每个一级学科，排名的对象是在该一级学 ...
其实很久以前就想谈一谈这个话题了，但是最近才有了足够的动机。因为从最近参加的很多 debrief 来看，我认为身边大多数的软件工程师面试中，在通过技术问题来考察候选人这方面，很多都做得不够好。比方说，我看到一 ...
缓存在计算机系统是无处不在，在CPU层面有L1-L3的Cache，在Linux中有TLB加速虚拟地址和物理地址的转换，在浏览器有本地缓存、手机有本地缓存等。可见，缓存在计算机系统中有非常重要的地位，其主要作用是提高响应速 ...
一个大型的分布式系统，通常都会异步化，走消息总线。 消息队列作为最主要的基础组件，在整个体系架构中，有着及其重要的作用。异步通常意味着编程模型的改变，时效性会降低。kafka是目前最常用的消息队列，尤其是 ...
一直都知道，美国的程序员薪资非常高，但前不久美国的科技猎头公司 Hired 发布了最新的《全美程序员薪水调查报告》，美国旧金山湾区作为众多科技巨头（如Google，Facebook）的大本营，以平均年收入14.2万美金的成绩 ...
某日下午大约四点多，接到合作方消息，线上环境，我这边维护的某http服务突然大量超时（对方超时时间设置为300ms），我迅速到鹰眼平台开启采样，发现该服务平均QPS到了120左右，平均RT在2秒多到3秒，部分毛刺高达5到 ...
悲观锁假设最坏的情况（如果你不锁门，那么捣蛋鬼就会闯入并搞得一团糟），并且只有在确保其他线程不会干扰（通过获取正确的锁）的情况下才能执行下去。安全性更高，但在中低并发程度下的效率更低。
虽然许多人认为，无服务器技术是一个新的概念。但是，如果追根溯源，那就是 2006 年 Zimki PaaS 和 Google App Engine 对无服务器框架的探索。
近几年，一些人预测无服务器计算将迎来蓬勃发展，让应用无需操作系统 ...
在2020年度诺贝尔奖已陆续揭晓。100多年来，诺贝尔奖，尤其是自然科学领域的几种奖项，始终是全球范围内最受瞩目的科学荣誉。我们为您盘点1901-2019年全球诺贝尔获得者（包括毕业生及职员）最多的前30所大学，它们也 ...
在linux中，每一个进程都被抽象为task_struct结构体，称为进程描述符，存储着进程各方面的信息；例如打开的文件，信号以及内存等等；然后task_struct中的一个属性mm_struct管理着进程的所有虚拟内存，称为内存描述符 ...
华为数据库最早诞生于运营商的需求，最初版本名称为GMDB，后来基于PostgreSQL-XC进行整体改造，再配合自研的存储引擎，发布了FusionInsight LibrA（天枰座），也就是大家听过较多的MPPDB，目前官网上还能找到一些Fu ...
上个月微软宣布正在与 OpenAI 合作，并取得了 GPT-3 语言模型的独家授权许可。其实去年七月，微软向 OpenAI 投资了 10 亿美元，达成伙伴关系。作为交换，OpenAI 同意将其部分知识产权授予微软，然后由微软打包出售。 ...
角度传感器是指能感受被测角度并转换成可用输出信号的传感器。 角度传感器，顾名思义，是用来检测角度的。它的身体中有一个孔，可以配合乐高的轴。当连结到RCX上时，轴每转过1/16圈，角度传感器就会计数一次。往一个 ...
德国19世纪20年代到20世纪20年代，由高斯创始，黎曼、克莱因、希尔伯特等人发展致盛，在世界数学史中长期占主导地位的学派。格丁根学派强调数学的统一性，重视纯粹数学和应用数学，将数学理论与近代工程技术紧密结合 ...
Redis作为缓存系统，在整个后端体系中是较为重要的一环，需要实时监控运行状态。现在有各种各样的工具都可以对Redis进行监控，例如：redis-stat、RedisLive等，在使用过各种各样的监控工具后，个人感觉redis_exporte ...
“架构制图”这词乍一听似乎有些晦涩，但如果提起“工程制图”，相信绝大部分工科背景的程序员们都不会陌生，甚至还能共同感慨下那些年一起伏在宿舍左手圆规，右手直尺，徒手作图到深夜的日子。软件工程也是工程，因 ...
对于消息消费而言，消费者直接指定要消费的队列即可，比如指定消费队列A的数据。需要注意的是，在消费者消费完成数据后，返回给RabbitMq ACK消息，RabbitMq会删掉队列中的该条信息。在Exchange这个模块上，RabbitMq ...
近日，开源先驱、《大教堂与集市》作者 Eric S Raymond 在个人博客上提出了一个惊人的观点，他认为 Linux 即将取得操作系统之争的最后胜利，因为微软很有可能在未来放弃 Windows 系统的内核研发，转而将其建立在 Lin ...
1900年 Max Planck 提出“量子”概念，宣告了“量子”时代的诞生。科学家发现，微观粒子有着与宏观世界的物理客体完全不同的特性。宏观世界的物理客体，要么是粒子，要么是波动，它们遵从经典物理学的运动规律，而微 ...
机械硬盘（Hard Disk Drive、HDD）和固态硬盘（Solid State Drive、SSD）是两种最常见的硬盘，作为计算机的外部存储，CPU 想要访问它们存储的数据需要很长时间。虽然磁盘的寻道时间只需要 10ms，但是在 CPU 看来已经 ...
Go 不是面向对象编程语言。Go 没有类似 Java 的继承机制，因为它没有通过继承实现传统的多态性。实际上，它没有对象，只有结构体。它可以通过接口和让结构体实现接口来模拟一些面向对象特性。此外，你可以在结构体中 ...
为了庆祝 Java 25 周年和 Java 15 版本的发布，JetBrains 从多个来源收集了数据，以查看该语言当下的发展状态。首先，他们对大多数 Java 开发人员的区域分布进行了调查。据市场研究和分析团队的开发者估计模型指出， ...
监控是整个运维乃至整个产品生命周期中最重要的一环，事前及时预警发现故障，事后提供详实的数据用于追查定位问题。目前业界有很多不错的开源产品可供选择。选择一款开源的监控系统，是一个省时省力、效率最高的方案 ...
“数据湖”正在被越来越多人提起，尽管定义并不统一，但企业已纷纷投入实践，无论是在云上自建还是使用云产品。阿里云大数据团队认为：数据湖是大数据和AI时代融合存储和计算的全新体系。为什么这么说？在数据量爆发 ...
不管是IO瓶颈还是CPU瓶颈，最终都会导致数据库的活跃连接数增加，进而逼近甚至达到数据库可承载的活跃连接数的阈值。在业务service来看，就是可用数据库连接少甚至无连接可用，接下来就可以想象了（并发量、吞吐量、 ...
人类的历史可以看做一部关于解放的历史。也有这样的说法，懒惰是人类进步的动力。为了偷懒，人类不断的做着各种努力，发明了各种机器工具，将自己从繁重的劳动解放出来，另一方面，每一次大的进步，都需要解放思想， ...
本周，Xilinx和美国大陆航空宣布了汽车行业的第一台可投入生产的 4D成像雷达。但是4D雷达实际上是否超出了理论范围？无人驾驶汽车的自主性通常以“ 自动化水平 ”的尺度来衡量。简而言之，这是从0到5的比例，这意味 ...
在这个现代时代，保护物理位置和数字数据的安全越来越困难。小偷可以撬锁或强行进入。黑客可以窃取密码或进行其他多种入侵。生物识别数据正逐渐成为不可丢失的密钥或无法复制的密码。面部识别和视网膜图案等生物识别 ...
Redis作为内存数据库，拥有非常高的性能，单个实例的QPS能够达到10W左右。但我们在使用Redis时，经常时不时会出现访问延迟很大的情况，如果你不知道Redis的内部实现原理，在排查问题时就会一头雾水。很多时候，Redis ...
假设现在公司有一个需求，目前公司的数据量很大，需要每天出一个报表且输出到业务数据库中。首先是刚入库的业务数据，大致分为两种，一种是 MySQL 的 binlog，另外一种是业务系统中的业务打点，这个日志打点信息可以 ...
微软 .NET 官方博客近日发布了一篇谈论 .NET Standard 未来的文章。文章作者是 .NET 项目经理 Immo，他在文章中指出未来 .NET Standard 将会被 .NET 5 取代，还对 .NET 5 如何改进代码共享以及取代 .NET Standard 这 ...
作为开发人员，在当今这个技术更迭飞快的时代要连年吃香并非易事，很多十年开发经验以上的开发人员不知道经历了多少语言的变化，今年还在用C语言，下一年就是D了。“PHP是世界上最好的编程语言”已被人忘却，但“青 ...
云里面的每个白色正方形的盒子代表一个节点——Node。在一个或者多个节点直接，多个绿色小方块组合在一起形成一个ElasticSearch的索引。在一个索引下，分布在多个节点里的绿色小方块称为分片——Shard。一个ElasticS ...
为什么这个时候我会提到 Haskell？好吧，Haskell 和 Rust 有着千丝万缕的联系。可以说，Rust 就是没有高阶类型（HKT）的 Hashkell。Rust 的很多风格与 Haskell 很像。在某种程度上，可以说 Rust 就是 Haskell 的化身 ...
Snowflake 在2018年成为福布斯的云服务100 排行榜，成为全领域发展最快的云解决方案之一。Snowflake是“作为软件即服务（SaaS）提供的数据分析仓库。”让Snowflake爆炸性增长的一些功能是并发性无限，快速且具弹性， ...
Uber 的早期架构包含了一个用 Python 开发的单体后端应用程序，这个应用程序使用 Postgres 作为数据存储。从那个时候开始，Uber 的架构已经发生了巨大变化，变成了微服务，并采用新的数据平台模型。具体地说，之前使 ...
由于某些国家/地区的知识产权保护和执法有限，因此 JDK 源代码只能分发到授权的国家/地区列表中。如果要从不在此列表中的国家/地区进行下载，则将无法访问源代码。我们正在不断审查此列表，以添加其他国家/地区。有 ...
现有的AI产业基数和舆论、资本对它助推是并不对等的，其中泡沫确实存在。事涉AI则必强大绝对是一种盲目的价值观。但AI的优势在于这种基数近乎于无限底层，能够提供的应用场景过分巨大，所以在众多应用场景没有被验证 ...
近日，253 封发表于 2014 年的 Debian 项目内部讨论邮件在外网被泄露并引起了诸多关注。据这些邮件内容显示，彼时，Linus Torvalds 在 DebConf 会议上的言行引发了一些争议。一些人认为，Linus 在发言中将 FSF 描述 ...
监控系统某个指标超过阈值，触发告警。大半夜里，你被紧急召唤。半睁着眼，你满脸疑惑：“系统真出问题了吗，还是仅仅需要调整下告警？上一次有人调整我们的告警阈值是在什么时候？有没有可能是上游或者下游的服务出 ...
我们发生了数据丢失的严重事件：在部分机架中，约有 2% 的设备因意外操作失误而经历了镜像重装。而问题的根源在于，我们的 Hadoop 基础设施主机生命周期管理体系存在设计错误。更糟糕的是，这一切发生在 LinkedIn 的 ...
kafka是一个分布式消息队列。具有高性能、持久化、多副本备份、横向扩展能力。生产者往队列里写消息，消费者从队列里取消息进行业务逻辑。一般在架构设计中起到解耦、削峰、异步处理的作用。kafka对外使用topic的概 ...
应用程序部署在操作系统上，定时任务依赖操作系统的时钟。鉴于大部分的服务器都部署在 Linux 上，我们就只讨论 Linux 的时间系统，Windows 服务器别打我。大部分 PC 机中有两个时钟源，他们分别叫做 RTC（Real Time ...
边缘AI发源于边缘计算。边缘计算也称为边缘处理，是一种将服务器放置在本地设备附近网络技术, 这有助于降低系统的处理负载，解决数据传输的延迟问题。这样的处理是在传感器附近或设备产生数据的位置进行的，因此称之 ...
微服务为了把业务完美拆解，把原来的同一个进程里的模块拆分成不同的服务，显著增加额外的网络开销。更别说什么Service Mesh，各种Gateway，Proxy，Sidecar简直就是担心延迟太低。微服务基本只有request/response的 ...
随着业务的迅猛增长，Yandex.Metrica目前已经成为世界第三大Web流量分析平台，每天处理超过200亿个跟踪事件。能够拥有如此惊人的体量，在它背后提供支撑的ClickHouse功不可没。ClickHouse已经为Yandex.Metrica存储了 ...
1873年，科学家约瑟·美(Joseph May)及伟洛比·史密夫(WilloughbySmith)就发现了硒元素结晶体感光后能产生电流，由此，电子影像发展开始，随着技术演进，图像传感器性能逐步提升。光电倍增管（简称光电倍增管或PMT） ...
感知距离和深度，对多数人的双眼来说都是轻松而自然的。但是让智能手机或者汽车上的摄像头也探测到环境深度特征，可并不容易。普通的摄像头无法单独完成这一任务，必须依靠深度传感器。目前市面上 3D 深度传感器大概 ...
从去年九月，Linux 内核维护者 Greg 表示愿意接受用 Rust 开发 Linux 驱动，到今年七月，Linus Torvalds 回应称可以默认启用 Rust 支持，Linux 开发者并非只是说说而已。在八月底举办的 2020 Linux Plumbers 大会上 ...
Windows 是商业软件，这使它具备易用的性质。Linux 是自由软件，这使得它拥有开源的性质。易用软件通常带来的是对用户的友好度，以致于 Windows 发展至今，被许许多多的普通用户所采用。自由软件通常带来的是其社区 ...
中国SCI论文发表数量位列世界第二，但超90%发表在国外期刊；中文期刊的影响因子逐年提高，但95%中文期刊获差评；对比国际期刊的“秒回”，一些中文期刊的审稿时间长达9个月；对比国际期刊全文刊载，不少中文期刊吝啬 ...
Elasticsearch 默认被配置为使用单播发现，以防止节点无意中加入集群。组播发现应该永远不被使用在生产环境了，否则你得到的结果就是一个节点意外的加入到了你的生产环境，仅仅是因为他们收到了一个错误的组播信号。 ...
数学家会代码，就连困扰人类90年的数学猜想也挡不住。来自斯坦福、CMU等高校的4名数学家，直接将一个数学难题转化成了对10亿个结果进行“暴力搜索”。他们把这串代码输入40台电脑组成的计算集群，30分钟后，计算机给 ...
随着时间的流逝，程序员们发现了更新、更简单的工作方式，新的编程语言如雨后春笋般出现，但只有少数编程语言能成为社区的新宠。这种进步的一个副作用是一些古老的编程语言必然会跟历史一样被人们遗忘。如果一个编程 ...
ZooKeeper 是一个开源的分布式协调服务。它是一个为分布式应用提供一致性服务的软件，分布式应用程序可以基于 ZooKeeper 实现诸如数据发布/订阅、负载均衡、命名服务、分布式协调/通知、集群管理、Master 选举、分布 ...
近年来，随着以深度学习为代表的机器学习方法在计算机视觉领域的广泛应用，以及计算机视觉在工业界场景中不断落地，CV领域的产、学两界之间的界限逐渐模糊，高校师生大规模加入工业界探索，而工业界也投入大量资本进 ...
2011年以后每个季度的DRAM出货数量基本维持在40亿个左右。然而，DRAM的出货金额在2018年第三季度达到顶峰并开始逐步下滑，且在2019年陷入“存储半导体危机”，后来DRAM出货金额虽然没有恢复，出货数量却远超40亿个， ...
某中型互联网公司的游戏业务，使用了腾讯云的 Elasticsearch 产品，采用 ELK 架构存储业务日志。因为游戏业务本身的日志数据量非常大(写入峰值在 100w qps)，在服务客户的几个月中，踩了不少坑，经过数次优化与调整 ...
监控是基础设施，目的是为了解决问题，不要只朝着大而全去做，尤其是不必要的指标采集，浪费人力和存储资源（To B商业产品例外）。需要处理的告警才发出来，发出来的告警必须得到处理。简单的架构就是最好的架构，业 ...
存储行业的关键在于存储介质，我们有幸经历了磁介质到Flash介质的时代飞跃。Intel是业界屈指可数的几家同时拥有NAND和主控的厂商，也正因如此，SSD市场基本上是Intel的主场。然而作为业界前沿厂商，总是会领先几步。 ...
前几天，接到一个 nginx 后门样本，本着就分析和复现的思路，完整的将整个过程做一次复现，不料最终还获取到了后门的核心代码部分，遂将其整理发布，仅供学习研究之用。在后续分析之前先来了解下 nginx 后门的功能。 ...
Java和Go都是垃圾收集型语言，然而，Java是提前编译（AOT）为在JVM上运行的字节码。当Java应用程序启动时，会调用Just-In-Time（JIT）编译器来优化字节码，随时随地将其编译成本地代码，以提高应用程序的性能。Go和R ...
自从美国宣布“清洁网络”行动后，很多懂点网络的人，第一反应是，美国人会下手根域名服务器吗？这种忧虑可不是一年两年了。2014年6月24日的《人民日报》上引用专家发言：“目前美国掌握着全球互联网13台域名根服务 ...
滴滴ElasticSearch平台承接了公司内部所有使用ElasticSearch的业务，包括核心搜索、RDS从库、日志检索、安全数据分析、指标数据分析等等。平台规模达到了3000+节点，5PB 的数据存储，超过万亿条数据。平台写入的峰值 ...
几个星期前，微软宣布Linux的SQL Server，这个星期前，它们宣布Windows上的Linux，微软先后宣布VC++对Linux的支持。 随后，它们宣布重磅信息——Linus Torvalds加盟微软！！我已经无法想象微软前任CEO Steve Ballmer ...
当今的工业格局具有前所未有的波动性，不确定性，复杂性和模糊性。结果，对于资产和人员而言，以更低的成本和更高的安全性来提高运营效率变得越来越重要。在这种背景下，传感技术及其进步对工业运营保持竞争力和效率 ...
现在，用户可以在 Kaggle 平台上获取 arXiv 论文了！众所周知，arXiv 是我们搜索、浏览和下载学术论文的重要工具。近 30 年来，arXiv 为公众和研究社区提供了开放获取学术论文的服务。这些论文涉及物理学的庞大分支 ...
传统的缓存解决方案将每一个缓存项都当作一个不可变的数据块对待，这在重度追加的注入工作负载上会产生很多问题，而这种模式的负载在 Pravega 上却非常常见。每一个追加到流上的事件因此要么需要有它自己独立的缓存 ...
物化视图主要用于预先计算并保存表连接或聚合等耗时较多的操作的结果，这样，在执行查询时，就可以避免进行这些耗时的操作，从而快速的得到结果。物化视图使用查询重写（query rewrite）机制，不需要修改原有的查询 ...
6 月初，IBM 发布了适用于 macOS 和 iOS 的完全同态加密（Fully Homomorphic Encryption，FHE）工具包，并表示 Linux 版本将在数周内推出。现在 Linux 版本发布了，其将 FHE 带到 IBM Z 和 x86 架构的多个 Linux 发 ...
7月31日， 据两名知情人士透露，美国芯片公司英伟达正在洽谈以现金加股票的方式从软银手中收购其英国芯片设计子公司Arm，这笔交易对ARM的估值超过320亿美元。据悉，谈判始于近几个月，此前英伟达曾就潜在收购事宜与 ...
7月29日，PyTorch 1.6、TenorFlow 2.3、Pandas 1.1恰巧同时发布。这三个库都是定期滚动更新，大约每个季度更新一次小版本。在AI内卷化达到“灰飞烟灭”的今日，仅仅会对PyTorch或TensorFlow进行调用已经不具有竞争力 ...
尽管机器学习有望作为一种强大的医学工具，但统计学家警告说，当前的模型存在严重的缺陷。多年来，许多人工智能发烧友和研究人员一直坚信机器学习将改变现代医学。他们已经开发了数千种算法来诊断癌症，心脏病和精神 ...
相对于传统的网页搜索，社交网络中的搜索问题不仅需要关注输入 query 的信息，还需要考虑用户的上下文信息，在 Facebook 搜索场景中用户的社交图网络便是这种上下文信息中非常重要的一部分。怎么把各式各样的信息进 ...
“我们的分析明确指出，嘈杂的数据收集管道是如何导致结果基准与其作为代理的实际任务之间的系统性不一致的”， 麻省理工学院的研究人员 在一篇题为《从 ImageNet 到图像分类：基准测试的情景化进展》的论文中写道， ...
6 月初，IBM 发布了适用于 macOS 和 iOS 的完全同态加密（Fully Homomorphic Encryption，FHE）工具包，并表示 Linux 版本将在数周内推出。现在 Linux 版本发布了，其将 FHE 带到 IBM Z 和 x86 架构的多个 Linux 发 ...
YOLO 是一种快速紧凑的开源对象检测模型，与其它网络相比，同等尺寸下性能更强，并且具有很不错的稳定性，是第一个可以预测对象的类别和边界框的端对端神经网络。YOLO 家族一直有着旺盛的生命力，从YOLO V1一直到”V ...
Facebook 通过 PyTorch 官方博客宣布，微软已扩大了对 PyTorch 社区的参与，现在拥有 PyTorch 在 Windows 上的开发和维护所有权。PyTorch 是基于 Torch 的开源 Python 机器学习库，由 Facebook 的人工智能研究团队开 ...
以前，我们一直认为传统相机将3D世界转换为2D图像，已可以满足我们对于图像的应用，而2D图像中丢失的三维似乎并不重要。但随着计算机视觉（CV）的飞速发展以及与深度学习的结合，许多雄心勃勃的研究人员试图使机器通 ...
「Transformer」 是2017年的一篇论文《Attention is All You Need》提出的一种模型架构，这篇论文里只针对机器翻译这一种场景做了实验，全面击败了当时的SOTA，并且由于encoder端是并行计算的，训练的时间被大大缩短 ...
大概一个月之前，史上最巨无霸NLP模型GPT-3问世。当时它向世界展示的能力是，“不仅会写短文，而且写出来的作文挺逼真的，几乎可以骗过人类，可以说几乎通过了图灵测试。”可能是因为它的前一代模型GPT-2也因“擅长 ...
物化视图主要用于预先计算并保存表连接或聚合等耗时较多的操作的结果，这样，在执行查询时，就可以避免进行这些耗时的操作，从而快速的得到结果。物化视图使用查询重写（query rewrite）机制，不需要修改原有的查询 ...
昨天Kaggle 全球小麦检测（Global Wheat Detection）比赛落下帷幕，共计2,270 支队伍参赛。比赛结束后，讨论区本该是晒成绩或者解决方案的，但却出现了大量关于"YOLOv5"的讨论。因为YOLOv5的license 是GPL 协议 ...
7 月 21 日，佛罗里达大学宣布，与英伟达建立公私合作伙伴关系，为学生、教职员工和研究人员提供最强大的 AI 训练和工具，打造全球高校最快 AI 超级计算机。 为此事提供大力支持及资金捐赠的，正是英伟达联合创始人 ...
“大数据技术与应用”专业是我国高职高专院校新增专业，专业代码610215，修业年限分别是3年、2年或5年。2017年全国64所高职高专院校登记备案“大数据技术与应用”专业；2018年212所高职高专院校登记备案“大数据技术 ...
数据库的这个三范式的概念，相信大多数人都不会陌生，从懵懵懂懂的大学时代就已经普及到教材了（没记错的话应该在数据库系统概论这本教材里）。还记得那会刚开始找实习的时候，由于自己本事太小，连简历都不知道怎么 ...
「网络就是电脑」（The Network Is TheComputer）这句格言，是在1984 年，由Sun 第21 名员工John Gage 创造。别说网络，在连个人电脑都尚未普及的年代，如此独树一帜的另类论点，恐怕让不少人「想问候小朋友」，但今 ...
基于Transformer的架构主要用于建模语言理解任务，它避免了在神经网络中使用递归，而是完全依赖于self-attention机制来绘制输入和输出之间的全局依赖关系。
人类从学会计数开始就一直和自然数打交道了，后来由于实践的需要，数的概念进一步扩充，自然数被叫做正整数，而把它们的相反数叫做负整数，介于正整数和负整数中间的中性数叫做0。它们和起来叫做整数。对于整数可以 ...
Spark 哪个地方需要用到 K8S 呢？K8S 是 Spark 上全新的集群管理和调度系统，其他三个资源管理和调度为 Standalone、YARN 以及 Apache Mesos。YARN 集群中的 Spark 版本、Python 版本以及依赖都是全局配置的，缺乏隔 ...
当我们架构微服务应用时首先遇到的一个问题是，作为消费者如何访问并调用服务提供者所提供的服务，作为服务提供者如何能让服务消费者知道并进行消费。在传统应用开发时，通常是在开发语言层面上解决这个问题，可能我 ...
Shell- 毋庸置疑，在终端中，Shell 是使用最频繁也最重要的工具。过去，我曾经使用过 Bash 和 Z Shell，而如今，我正在使用的是 Fish Shell。这是一个非常优秀的终端 Shell 工具，拥有许多开箱即用的功能，例如语法 ...
2018年，谷歌在其年度 I/O 开发者大会上宣布了第三代产品，在今天上午刚刚揭开了第四代TPU产品的神秘面纱，该产品目前尚处于研发阶段。MLPerf 最新发布的一套人工智能性能基准指标显示，第四代 TPU集群大幅超越了第 ...
今天是计算机科学之父、人工智能之父 艾伦·麦席森·图灵 诞辰 108 周年。作为“图灵意志”的传承者，依照惯例，在今日纪念这位伟人。从“图灵机”到“图灵测试”，从破译德军的 Enigma 到自杀之谜，图灵一生都是传 ...
虽然 GNU Make 和其他构建系统可以很好地进行扩展以并发编译大量文件，不过 GCC 自身也一直在让 GCC 的更多工作在编译大型源代码文件时能够并行执行。早在2019年夏天，其团队就已开始尝试解决并行化遇到的瓶颈，让更 ...
Embedding，中文直译为“嵌入”，常被翻译为“向量化”或者“向量映射”。在整个深度学习框架中都是十分重要的“基本操作”，不论是NLP（Natural Language Processing，自然语言处理）、搜索排序，还是推荐系统，或 ...
关于 node 的使用已经很久了，使用范围也很广，似乎有前端的地方就有 node，那么来思考一个问题，node 到底是用来干嘛的呢？本文从五个大的方面对该问题进行了解释。本文不仅仅可以应用场景的分析，完全可以把它当做 ...
Spark 诞生于加州大学伯克利分校的 AMPLab 实验室，该实验室致力于数据密集型计算的研究。AMPLab 研究人员与大型互联网公司合作，研究如何解决数据和 AI 问题，然后发现那些拥有海量数据的公司也面临同样的问题。于 ...
数年来，Netflix 一直是全球体验最好的在线订阅制视频流媒体服务，其流量占全球互联网带宽容量的 15％以上。 在过去的2019 年，Netflix 已经有 1.67 亿名订阅用户，平均每个季度新增 500 万订户，服务覆盖全球 200 ...
现在，用户可以在 Kaggle 平台上获取 arXiv 论文了！众所周知，arXiv 是我们搜索、浏览和下载学术论文的重要工具。近 30 年来，arXiv 为公众和研究社区提供了开放获取学术论文的服务。这些论文涉及物理学的庞大分支 ...
Word2Vec和其衍生出的Item2Vec类模型是Embedding技术的基础性方法，二者都是建立在“序列”样本（比如句子、用户行为序列）的基础上的。在互联网场景下，数据对象之间更多呈现的是图结构，所以Item2Vec在处理大量的 ...
据媒体7月21日报道称，华为技术有限公司已经悄悄的在招聘“光刻工程师”，这或许意味着华为可能打算自己研发芯片制造技术。前不久有消息称，华为内部确实提出要坚定选择绝处逢生式的全产业链模式，进军更多业务板块 ...
知名软件行业分析公司 RedMonk 发布了 2020 年 6 月（Q3 季度）编程语言排行榜。RedMonk 编程语言排行榜通过追踪编程语言在 GitHub 和 Stack Overflow 上的代码使用情况与讨论数量，统计分析后进行排序，其旨在深入 ...
传统的缓存解决方案将每一个缓存项都当作一个不可变的数据块对待，这在重度追加的注入工作负载上会产生很多问题，而这种模式的负载在 Pravega 上却非常常见。每一个追加到流上的事件因此要么需要有它自己独立的缓存 ...
BLURB 包括 13 个公开可用的数据集，涉及 6 个不同的任务。为了避免偏重多可用数据集的任务，如命名实体识别（NER），BLURB 的报告和排名，将所有任务的宏观平均数作为主要得分。BLURB 排行榜是不分模型的。任何能够 ...
是时候重新审视这个「无所不能的」模型了！GPT-3，「出道即巅峰」界的代表。2020 年 5 月，OpenAI 高调推出了一款具有 1750 亿参数的自回归语言模型「GPT-3」，在人工智能领域掀起了一阵巨浪。从参数量上看，它比当 ...
IMEC是推动半导体技术前进的主要组织之一，日前，他们举办了一场线上论坛，谈及了对芯片现状和未来的看法。在演讲中，ASML总裁则对光刻的发展进行了演讲。从他的PPT中可以看到，浸入式光刻在过去九年中增长了两倍。 ...
当今的工业格局具有前所未有的波动性，不确定性，复杂性和模糊性。结果，对于资产和人员而言，以更低的成本和更高的安全性来提高运营效率变得越来越重要。在这种背景下，传感技术及其进步对工业运营保持竞争力和效率 ...
各位炼丹师平时“炼丹”时最多跑过多深的神经网络呢？152层，256层，还是更多层？那各位跑过最宽的神经网络又有多宽呢？可能一层撑死有10个或20个神经元？对第二个问题，谷歌的回答是：我可以跑无限宽的神经网络。也 ...
几个星期前，微软宣布Linux的SQL Server，这个星期前，它们宣布Windows上的Linux，微软先后宣布VC++对Linux的支持。 随后，它们宣布重磅信息——Linus Torvalds加盟微软！！我已经无法想象微软前任CEO Steve Ballmer ...
50多年前，Intel创始人之一摩尔（Gordon Moore）提出了著名的摩尔定律，其内容为：集成电路上可容纳的晶体管数目，约每隔两年便会增加一倍；经常被引用的“18个月”，是由Intel首席执行官大卫·豪斯（David House） ...
React 是一个专注的组件库。因此，它对如何请求远程数据没有什么建议。如果要通过 HTTP 请求数据并将其发送到 Web API，可以考虑下面四种方法。对于一个简单的应用程序，只要发起几个请求，就可以正常工作。但是上面 ...
近年来，在人工智能（AI）、5G等推动下，以MRAM（磁阻式随机存取存储器）、铁电随机存取存储器 (FRAM)、相变随机存取存储器（PRAM），以及可变电阻式随机存取存储器（RRAM）为代表的新兴存储技术逐渐成为市场热点。 ...
对比accuracy、precision等指标，AUC指标本身和模型预测score绝对值无关，只关注排序效果，因此特别适合排序业务。为何与模型预测score值无关为何是很好的特性呢？假设你采用precision、F1等指标，而模型预测的score ...
深度学习的未来在哪里？这一话题已经有过了无数讨论，大部分讨论都承认当前的深度学习还不是真正的智能，必须转向理解、常识。但是只看当前AI成功的案例，似乎还无法窥探理解。近日，来自多伦多大学和图宾根大学的研 ...
滴滴ElasticSearch平台承接了公司内部所有使用ElasticSearch的业务，包括核心搜索、RDS从库、日志检索、安全数据分析、指标数据分析等等。平台规模达到了3000+节点，5PB 的数据存储，超过万亿条数据。平台写入的峰值 ...
陆金所从 2018 年启动全站去 O 项目以来，在不做任何服务降级的情况下，历时 2 年通过上百次变更，把全站 98% 的 Oracle 数据库无缝切换到 MySQL 上。其中，这 98% 的数据库覆盖了陆金所的账务、资金、资产中心、支 ...
在机器学习中，有三种不同类型的学习模式：首先是监督学习，即给定输入向量学习预测输出。然后是强化学习，通过学习选择动作以获得最大奖励。最后是无监督学习，其目的是学习输入的内部表征，但是从数学上定义什么是 ...
Filebeat：轻量级数据收集引擎。基于原先 Logstash-fowarder 的源码改造出来。换句话说：Filebeat就是新版的 Logstash-fowarder，也会是 ELK Stack 在 Agent 的第一选择。Kafka: 数据缓冲队列。作为消息队列解耦了处 ...
YOLO目标检测算法诞生于2015年6月，从出生的那一天起就是“高精度、高效率、高实用性”目标检测算法的代名词。在原作者Joseph Redmon博士手中YOLO经历了三代到YOLOv3，今年初Joseph Redmon宣告退出计算机视觉研究界 ...
OpenMMLab 为香港中文大学-商汤科技联合实验室 MMLab 开源的算法平台，不到两年时间，已经包含众多 SOTA 计算机视觉算法。OpenMMLab 在Github上不是一个单独项目，除了大家所熟知的 Github 上万 star 目标检测库 MMD ...
Reformer的论文选择了局部敏感哈希的angular变体。它们首先约束每个输入向量的L2范数(即将向量投影到一个单位球面上)，然后应用一系列的旋转，最后找到每个旋转向量所属的切片。这样一来就需要找到最近邻的值，这就 ...
2019 年，GPT-2 凭借将近 30 亿条参数的规模拿下来“最强 NLP 模型”的称号；2020 年，1750 亿条参数的 GPT-3 震撼发布，并同时在工业界与学术界掀起了各种争论。随着时间的推移，争论的焦点也发生了变化，人们逐渐 ...
这里仅列出教育部和中央部委所属高校新增的“人工智能”/“大数据”专业，地方政府所属的高校专业暂不列出。各高校在考生报名地是否开设“人工智能”/“大数据”专业的招生，请查询相关资料或咨询招生办，这里不作为 ...
Java和Go都是垃圾收集型语言，然而，Java是提前编译（AOT）为在JVM上运行的字节码。当Java应用程序启动时，会调用Just-In-Time（JIT）编译器来优化字节码，随时随地将其编译成本地代码，以提高应用程序的性能。Go和R ...
作为一名研究者，你要取得成功，最重要的一点，是在研究生入学时要选择好的导师。不能只道听途说，而是要把导师写的论文找来读，看看自己想要做的研究是否与之相符。你要把自己的一生当做赌注押下去，就要选择认真做 ...
自从美国宣布“清洁网络”行动后，很多懂点网络的人，第一反应是，美国人会下手根域名服务器吗？这种忧虑可不是一年两年了。2014年6月24日的《人民日报》上引用专家发言：“目前美国掌握着全球互联网13台域名根服务 ...
让分布式系统的操作变得简单，在某种程度上是一种艺术，通常这种实现都是从大量的实践中总结得到的。Apache Kafka 的受欢迎程度在很大程度上归功于其设计和操作简单性。随着社区添加更多功能，开发者们会回过头来重 ...
深度决定了网络的表达能力，网络越深学习能力越强。宽度（通道数）决定了网络在某一层学到的信息量，另外因为卷积层能重组通道间的信息，这一操作能让有效信息量增大（这也是1x1卷积的作用，它能学习出重组信息，使 ...
在现有的网络结构设计指导下，似乎卷积层后跟一个池化层下采样，已经是一个准则。我们重新思考了现有SOTA网络，并得出结论最大池化层是能被卷积层给替代。我们设计了一系列小网络，并提出了一种新的「反卷积方法」来 ...
提到激活函数，最想问的一个问题肯定是它是干什么用的？激活函数的主要作用是提供网络的非线性表达建模能力，想象一下如果没有激活函数，那么神经网络只能表达线性映射，此刻即便是有再多的隐藏层，其整个网络和单层 ...
2010 到 2011 年，Mike Jumper 启动了 Guacamole 项目。这是一个多协议网关，它可以让管理员安全地提供远程桌面。因为客户端界面是在浏览器中运行的，因此，它非常轻量化且易于使用，可以替代一些旧的远程访问解决方 ...
前几天，接到一个 nginx 后门样本，本着就分析和复现的思路，完整的将整个过程做一次复现，不料最终还获取到了后门的核心代码部分，遂将其整理发布，仅供学习研究之用。在后续分析之前先来了解下 nginx 后门的功能。 ...
随着认知智能走进了人们的视野，知识图谱的重要性便日渐凸显。在今年的自然语言处理顶会 ACL 2020 上，自然语言知识图谱领域发生了巨大的革新。ACL 作为 NLP 领域的顶级学术会议，无疑能够很好地呈现该领域的研究风 ...
OpenCV 2020 夏季版如约而至，收录了不少State-of-the-art 和经典算法，我们一起来看看吧！SIFT算法因专利到期，成为公有技术，其OpenCV实现被移到主仓库。OpenCV一直对较为实用的YOLO系列算法情有独钟。
现代电子产品和设备在诸如通信 、娱乐 、安全和医疗保健等许多方面改善了我们的生活质量 ，这主要是因为现代微电子技术的发展极大地改变了人们的日常工作和互动方式。在过去几十年中，摩尔定律一直是通过不断缩小芯 ...
这是一家 AI 创业公司挺过疫情、扭亏为盈的故事。经历了 2019 年经济寒冬的人们，从没想到过下一年会以这样的方式到来。在新冠病毒的蔓延趋势下，2020 年的春天，显得格外寒冷。「到了三月底，我们的预定数量降低了 ...
我们日常的工作就是不断执行代码指令，不过这看似简单的工作背后其实也并不轻松。咱不能闷着头啥也不管一个劲的只管执行代码，还得和连接在主板上的其他单位打交道。经常保持联系的有键盘、鼠标、磁盘，哦对，还有网 ...
前几天逛github刷到一个『awesome-fast-attention』大列表，整理了一系列关于attention的高效改进文章，包括论文、引用量、源码实现、算法复杂度以及关键亮点。
2020年6月23日9点43分，我国在西昌卫星发射中心成功发射了北斗系统第五十五颗导航卫星，也是北斗三号的最后一颗全球组网卫星。至此，北斗三号全球卫星导航系统星座部署全面完成。新闻出来之后，国人为之振奋，纷纷点 ...
模型压缩就是“简化大模型，得到推理速度更快的小模型”。当然，一般来说模型压缩是有一定牺牲的，比如最明显的是最后的评测指标会有一定的下降，毕竟“更好又更快”的免费午餐是很少的，所以选择模型压缩的前提是能 ...
最传统的安装方法就是去gradle官网下载二进制包，解压，然后将路径添加到环境变量中。如果你没什么其他需求，可以使用这种安装方式。但是，gradle是一个非常新潮的项目，每隔几个月就会发布一个新版本，这种方式可能 ...
在过去的几年中，计算机不断增强的处理能力推动了机器学习的进步。算法越来越多地利用并行性，并依赖分布式训练来处理大量数据。然而，随之而来的是增加数据和训练的需求，这对管理和利用大规模计算资源的软件提出了 ...
关于变量的命名，这又是一个容易引发程序员论战的话题。如何命名才能更具有可读性、易写性与明义性呢？众说纷纭。本期“Python为什么”栏目，我们将聚焦于变量命名中的连接方式，来切入这块是非之地，想要回答的问题 ...
在台积电第26届技术研讨会上，台积电揭秘其3nm工艺节点的更多细节，并分享了5nm后续产品N5P和N4工艺节点的相关进展。台积电在先进制程领先的道路上一往无前，计划3nm技术于2021年进入风险生产、在2022年开始量产，而 ...
基于内存的Redis应该是目前各种web开发业务中最为常用的key-value数据库了，我们经常在业务中用其存储用户登陆态（Session存储），加速一些热数据的查询（相比较mysql而言，速度有数量级的提升），做简单的消息队列 ...
图数据库的应用场景非常广：搜索、推荐、关系图谱、知识图谱等等。目前贝壳也有各种场景需要使用到图数据库，但选型各不相同，有的部门使用JanusGraph，有的使用Neo4j，每个有需要的部门都得从头搭建一套。所以我们 ...
7月9日消息，据国外媒体报道，英伟达（Nvidia）的市值在周三超过了英特尔（Intel），成为了美国市值最高的芯片公司，英伟达CEO黄仁勋(Jensen Huang)的身价也有明显增加，直逼100亿美元。这是自公司创立以来，英伟达 ...
台积电冲刺先进制程，在2纳米研发有重大突破，已成功找到路径，将切入GAA（环绕闸极）技术，为台积电发展鳍式场效电晶体（FinFET）取得全球绝对领先地位之后，迈向另一全新的技术节点。尽管劲敌三星已早一步切入GAA ...
《2020年中国大学生就业报告》显示，2019届本科毕业生月入5440元，本科计算机类、高职铁道运输类专业领跑薪酬榜。剔除通货膨胀因素的影响外，与2015届相比，五年来本科生起薪涨幅为23.6%；高职毕业生平均月收入为429 ...
监控是基础设施，目的是为了解决问题，不要只朝着大而全去做，尤其是不必要的指标采集，浪费人力和存储资源（To B商业产品例外）。需要处理的告警才发出来，发出来的告警必须得到处理。简单的架构就是最好的架构，业 ...
存储行业的关键在于存储介质，我们有幸经历了磁介质到Flash介质的时代飞跃。Intel是业界屈指可数的几家同时拥有NAND和主控的厂商，也正因如此，SSD市场基本上是Intel的主场。然而作为业界前沿厂商，总是会领先几步。 ...
越来越多的组织开始放弃单体应用，逐步转向微服务的架构模式–将业务流程分为多个独立的服务。例如，在一个机票预订中，就可能涉及许多个单独的过程：在航空公司预订机票，付款，并在机票成功预订后向客户发送确认信 ...
传统Tranformer-based模型在处理长文本时有着天然的劣势。因为传统模型采用的是“全连接”型的attention机制，即每一个token都要与其他所有token进行交互。其attention复杂度高达。此前的解决办法是将长文切分为若干 ...
在我们今天看来，晶体管发明以后，集成电路的出现一直到今天超大规模集成电路的出现，似乎是一件水到渠成的事情。但是如果回到半导体产业初兴的历史现场，我们就会发现没有任何一项关键技术的突破是“必然产生”的。 ...
在信号处理、图像处理和其它工程/科学领域，卷积都是一种使用广泛的技术。在深度学习领域，（CNN）这种模型架构就得名于这种技术。但是，深度学习领域的卷积本质上是信号/图像处理领域内的互相关（cross-correlation ...
2011年以后每个季度的DRAM出货数量基本维持在40亿个左右。然而，DRAM的出货金额在2018年第三季度达到顶峰并开始逐步下滑，且在2019年陷入“存储半导体危机”，后来DRAM出货金额虽然没有恢复，出货数量却远超40亿个， ...
“无芯片不 AI”。最近几年，业界萦绕着对摩尔定律失效的担忧。后摩尔定律时代，AI 芯片的崛起被寄予厚望。AI 芯片一度站上了风口，热度空前，与此同时，挑战尤存。现阶段的 AI 芯片处在发展早期，尚有诸多技术痛点 ...
半导体产业链分为设计、制造、封测三大环节，设备成为半导体产业支柱。芯片设计主 要根据芯片的设计目的进行逻辑设计和规则制定，并根据设计图制作掩模以供后续光刻步骤 使用。芯片制造实现芯片电路图从掩模上转移至 ...
当tracking开启时， Redis会"记住"每个客户端请求的key，当key的值发现变化时会发送失效信息给客户端(invalidation message)。失效信息可以通过RESP3协议发送给请求的客户端，或者转发给一个不同的连接(支持RESP ...
Python机器学习
机器读心术之文本挖掘与自然语言处理
Python金融业数据化运营实战
PyTorch
快速成为深度学习全栈工程师
专题：深度学习专集
专题：推荐系统算法及其应用
专题：量化投资详解
