阿里巴巴算法岗武功秘籍（中）-FlyAI

阿里巴巴算法岗武功秘籍（中）

Python3

最后更新 2021-06-24 10:55 阅读 5738

最后更新 2021-06-24 10:55

阅读 5738

Python3

![](https://pic2.zhimg.com/v2-334703e822394522e786ffe4afa9f8eb_r.jpg)

**阿里巴巴面经目录**

> 1 阿里巴巴面经汇总资料 
2 阿里巴巴面经涉及基础知识点   
3阿里巴巴面经涉及项目知识点   
4 数据结构与算法分析相关知识点   
5 编程高频问题：Python&C/C++方面   
6 操作系统高频问题：数据库&线程等   
7 技术&产品&开放性问题

**2.6 深度学习&机器学习面经通用知识点**

2.6.1 损失函数方面

●  讲一下交叉熵的公式和意义

●  为什么分类问题的损失函数用交叉熵？

2.6.2 激活函数方面

●  激活函数作用，有哪些，都怎么改进？

●  ReLu函数所有背景、原理、应用?

●  RELU和Sigmoid相比，优点有哪些？ReLU 解决了什么问题？

2.6.3 网络优化梯度下降方面

●   梯度下降、牛顿法优缺点？

●  梯度下降和随机梯度下降讲一下？

●  SGD,ADAM区别

●  SGD和BGD区别，还知道哪些优化算法？动量的作用是什么？

●  梯度下降过程中如果不按正确的方向进行怎么办？

●  用什么优化方法，梯度下降的种类，各有什么优点

●  梯度下降法和牛顿法是如何实现的。优化问题分哪些种，无约束的优化问题怎么处理，有约束的优化问题怎么处理。

●  凸优化了解吗？ 牛顿法、SGD、最小二乘法，各自的优势，牛顿法与SGD的区别？牛顿法能用于非凸函数吗？拟牛顿法能说说吗？

●  说一下牛顿法，为什么深度学习很少用牛顿法？牛顿法一般应用于什么场景，有什么好处？

2.6.4 正则化方面

●  L1，L2正则化的原理讲一下？

●  L1和L2的区别，数学上解释（等高线）

●  L1正则不是连续可导的，那么还能用梯度下降么，如果不能的话如何优化求解?

●  正则化有哪几种，分别有什么作用？

●  L1和L2的区别？从贝叶斯估计的角度看？它们的先验分布是什么？

●  问了l1正则 产生稀疏解的原因（一画图准备扯拉普拉斯分布0点值就把我打住了，知道我想说什么），不可导点的处理（说了三种方法，问了不了解针对大规模数据的方法，这些实际都不常用）

●  L1、L2正则化的区别和应用场景？你知道哪些激活函数？简单说说区别？为什么需要激活函数，它解决了一些什么问题？为什么ReLU比sigmoid更能解决梯度消失的问题？

2.6.5 压缩&剪枝&量化&加速

●  剪枝与正则化的联系，笔者从结构化剪枝与非结构化剪枝分别对应Lasso和Group Lasso的角度来回答

●  结构化剪枝和非结构化剪枝

●  三大角度：蒸馏，剪枝，量化。笔者分别介绍了三大角度的基本原理。

2.6.6 过拟合&欠拟合方面

●  如何检验过拟合，数据量很小怎么办？就项目中数据处理方式做了详细的询问，生成的多张数据集如何使用，缺失值的处理需要考察到哪些问题，均值填充是否科学等

●  如何防止过拟合？为什么会过拟合?（从数据、模型、指标三个角度，提到了dropout、正则，后面正好顺着问。）

●  dropout是否了解？讲一下dropout原理，为什么能防止过拟合？对训练数据和预测数据有什么区别？

●  神经网络怎么避免过拟合？

2.6.7 其他方面

●  监督学习，无监督学习区别，半监督是什么？

●  怎么做数据增强(结构化数据，图像，文本）

●  为什么会产生梯度震荡、学习率是干嘛的

●  怎么处理非平衡问题（除了我说的欠采样过采样，小哥哥说可以对损失函数进行改进，比如令正类的损失函数为1，负类的损失函数为9）

●  数据不平衡问题?从欠采样过采样等经典解决办法的角度回答。另外回答了一些其他方法：GAN（ICCV 2019 best paper：SinGAN），特征空间增广，改进训练方式（源数据训练特征提取backbone，欠采样或过采样训练分类器），Loss加权，使用AdaGrad优化器等。

●  如何可视化和理解你的模型？（遮挡实验，attention score）

●  问平常训练模型有没有遇到什么问题，说了显存和batch-size,然后面试官一路问到底，就各种问题如何解决，有个地方我说到了静态rnn和dynamic rnn,例如如何提高显存利用率，一个模型如何发现性能瓶颈在哪

●  如何降低模型复杂度

●  如果数据不充足，或者说非常不平均，要怎么解决？从数据增强和建模来讲

●  偏差和方差的区别？

●  Graph Embedding和GNN的区别？

**3 阿里巴巴面经涉及项目知识点
**

3.1 深度学习：CNN卷积神经网络方面

3.1.1 目标检测方面

3.1.1.1 讲解原理

●   faster rcnn的RPN和ROI pooling？

●  单阶段和两阶段的优缺点？

●  非极大值抑制？

●  交通标志检测和识别的关键？

●  基于SSD的，问训练阶段SSD的gt怎么和预测框发生联系。

●  在目标检测的基础上讲了讲跟踪方面的项目，深挖了几个点比如deformable CNN的具体实现，Siamese-RPN的具体实现

●  如何解决小目标检测的问题？

●  为什么要深层、浅层featureMap concat？提了点细节和我踩的坑，需要数量级上的调整，不然深层的feature可能会被压制。

●  Cascade的思想? 说了下我的摸索的一个过程。改变样本分布，困难样本挖掘，能达到比较好的效果。

●  介绍网络：Faster-RCNN、YOLO、SSD、YOLOv1、YOLOv2、YOLOv3、Masker-RCNN、GAN

●  CenterNet的实现细节（argmax）

●  RCNN、Fast RCNN 和 Faster RCNN的区别

●  为什么选择RetinaNet

●  特征金字塔FPN的作用?

3.1.1.2 损失函数

●  Focal loss原理?

3.1.2 OCR

●  就实习阶段所做的超分辨率算法工作进行了详细的询问：数据如何生成，从概率的角度解释网络为何能够学到LR和SR的映射关系，如何搭建和训练网络，如何解决模型落地问题

●  了解到答主在做超分时遇到的问题后，对业界前沿的技术做了相关询问，用了哪些GAN模型，GAN模型的loss函数如何设计，为什么这么设计？3.1.3 图像分类

●  分类器有了解吗？对哪些分类算法有研究？

3.2 深度学习：RNN递归神经网络方面

3.2.1 自然语言处理NLP

① Bert

●  Bert详解？损失函数？bert的mask相对于CBOW有什么相同与不同

bert当时是用预训练模型还是自己重新训练的？用bert来干嘛了？

●  了解过BERT吗，里面的三种embedding分别是什么，为什么要这样做？

●  Bert和Elmo在工程中存在的一些Trick？

② Transformer

●  Transformer 模型架构说一下？ 为什么用transformer，不用rnn和LSTM、transformer的优势是什么 ？

●  Transformer 和 BERT 的位置编码有什么区别？

●  Transformer 用的 Layer Normalize 还是 Batch Normalize？Layer，有什么区别？...

●  用python写一个multi-head attention

③ CRF

●  CRF的作用？维特比详细过程

④ HMM隐马尔科夫模型

●  隐马原理？如何应用在分词当中的？

⑤ Word2vec

●  讲一下word2vec，word2vec网络模型？怎么训练？讲一下word2vec的霍夫曼树的原理

⑥ CNN方面

●  NLP哪个模型最熟悉？Text-CNN，讲一下？

●  TextCNN模型背景、原理、应用；当时毕设/美团评论情感分析比赛的数据集、评价体系、任务要求？

●  TextCNN当时用了哪些卷积核？数值、尺寸？为什么用这种？

⑦ 其他

●  介绍预训练语言模型ELMo，BERT，Transforler-XL，XLNET，ERNIE，RoBERTa，ALBERT，ELECTRA。。。笔者从BERT的mask LM以及NSP任务出发讲解了BERT后续各大预训练的改进。 各大预训练语言模型可能不能从头到尾讲起，笔者线是介绍了BERT，然后从BERT的预训练任务出发，比如介绍了ERNIE中对mask LM的改进，ALBERT中将NSP任务替换为SOP任务等。

●  CNN，RNN在处理文本上有什么区别?

●  CNN在文本分类上的应用与什么比较像？（意思就是卷积核的作用与什么的作用很像，答案是n-gram，没答上来，我说了一下在文本分类中卷积核是怎么运作的）

●  Dropout 有什么作用？类似于 Bagging 。在 Transformer 模型中 dropout 主要用在哪里？

●  如何衡量两个句子的相似度，sentence embedding的方法

●  从长文本到短文本的生成 怎么做

●  生成文本或者说生成模型，最主要的因素是什么

●  对NLP的理解，讲了一下文本分类的发展史，主流分类方法的发展

●  说一说nlp的基本预训练模型（说了ELMO、GPT、BERT），然后这些预训练模型有什么特点？

●  说一个熟悉的文字识别模型（CRNN的结构、CTC-Loss）

●  怎么处理非平衡？欠采样的时候其实可以考虑文本相似度，了解怎么做文本相似度吗？

●  讲一下训练词向量的方法（w2v，skip-gram，CBOW，glove）

●  文本里面的“服务”、“食物好吃”等，如何抽取作为特征？（这问题当时理解有歧义，所以了有点久才知道问的，词性关联模板）

●  如何判断一段文字的时效性？

**3.3 强化学习方面**

3.3.1 讲解原理

●  你觉得强化学习和推荐有那些关联？

●  强化学习模型 和 CTR 预估模型的区别？

●  强化学习有哪些评价指标？

●  gan中的转置卷积

●  论文相关，gan的对抗样本对判别器有什么效果， gan生成的样本只考虑了一部分特征，如何考虑业务数据下游的下游特征，他们如何增强？

●  gan在淘宝场景中的应用（从数据，样本，模型，评估层面分析）

●  面试官在手淘那边是负责做推荐搜索的，而我的方向是做强化学习的，而用强化学习做推荐搜索很可能是近几年的一个趋势，让我用强化学习对推荐搜索进行建模，包括state、action、agent的选取，reward的设计，以及如何训练。以及和目前现有的推荐搜索技术相比，用强化学习做有什么优势呢。

●  介绍强化学习都有哪些方法？

●  off policy 和on policy都有哪些应用场景？区别是什么？

3.3.2 损失函数

●  强化学习loss函数说一下？

**3.4 机器学习方面**

3.4.1 推荐系统

●  介绍下基本的推荐算法

●  CTR比赛中如何做的特征？

●  说一下协同过滤公式，两种协同过滤额应用场景有啥不同？

●  user 向量和 item 向量，协同过滤，Neural CF

●  user 的嵌入向量怎么得到的？

●  冷启动：用户很少交互怎么解决？商品数目很多训练嵌入向量怎么训练？

●  CTR 预估中，如果有两个模型 CTR/CVR, 怎么做最后的 item 排序。猜测是问 ensemble 方法，回答了 bagging，然后让我具体描述一下思路。召回策略的方法： CF -> Nerual CF -> Youtube DNN讲一下 CF 的思路，UserCF, ItemCF

●  假如说处理一个多级分类的问题，有没有什么办法只用一个模型？-multitask 如果说multitask的输出y之间互相有制约关系，要怎么处理？（之前还不知道有CRF这个东西，就说了如果输出的y之间冲突了就引入一个loss。面试官说看来你还不知道CRF，下去好好学习一下）

●  问了netflix的电影评分预测 讲了怎么基于矩阵分解求出评分 svd的k值代表什么？怎么确定？

●  问了deepfm，讲了FM的原理，怎么缩减计算量

●  point-wise，pair-wise, list-wise的优缺点，对这些loss的常用设计形式了解吗？

●  对召回算法有了解吗？常用的召回算法的优缺点？

●  CTR中为什么经常用LR？

●  介绍FM FFM原理

●  FM推导

●  召回和精排的区别以及各自的特点？

●  召回和精排的负样本有何不同？

●  精排特征有哪些，点击序列是怎么作为特征放进去的？

**4 数据结构与算法分析相关知识点**

4.1 数据结构与算法分析

4.1.1 线性表

4.1.1.1 数组

●  2*N 数组，将奇数放到奇数位置，偶数放到偶数位置

●  给定一个长度为n的数组，如【12123】，相邻值为1、-1，现在有一个值x=100，查找x的位置?

●  给一个数组，如何判断这是数组是不是一棵树的后序遍历？后序遍历有什么特点？

●  一个1000W的64bit整型数组，无需、可重复，找第100W的数字。 【快排思想（非快排）O(2n) > 堆排O(n logk) > 快排O(n logn)】

●  一个数组按从大到小排列，但是有重复的元素，利用二分查找查找到指定的元素，如果有多个就返回最大的那个索引。我先写了递归算法，然后他让我非递归写一下。

●  如何在n个数组中找出它的中位数（n个数组无法完全放在内存中）

●  求一个数组的连续区间，使得和最大？

●  两个有序数组怎样最快的确定差集，复杂度是多少？

●  两个无序数组去重复

●  给定一个数组，求最大连乘子区间（可以包含小数、负数）

●  找到一个无序数组里面连续的最长整数数组长度。顺带考察了基数排序和快速排序

●  链表和数组的区别？

●  可重复排列，数组第k个数求时间复杂度？

4.1.1.2 链表

●  说一下链表反转？

●  把一个链表转化成平衡二叉树

●  说一下链表操作的时间复杂度：查找、查询、删除、增加。和顺序表的区别？

●  链表插入的复杂度什么时候是O(1)？

●  链表的插入和查找的复杂度

●  2*N 数组，将奇数放到奇数位置，偶数放到偶数位置

4.1.1.3 字符串

●  一个是单词级别的翻转字符串，比如“I love you”翻转成“you love I”？

●  反转字符串in place

●  把一个字符串的小写字母放到前面，大写放到后面，保持原有的顺序？

●  两个字符串的最小距离（插入，删除，改变一个字符）说一下思路和复杂度？

●  一个求最长不重复字符串长度的代码题？

●  给定一个字符串（例如abc），和一个文档，给出每个字符在文档中的倒排索引，在文档中找到一个最小窗口（adebdc），使给定字符串是其子串。（解法：使用归并思想，从第一个字符（a）的倒排索引开始，找仅比当前索引大的第二个字符（b）的索引，直到最后一个字符，计算窗口大小，保留最小值，时间复杂度：各字符倒排索引数组大小相加（线性），空间复杂度，O(1)？

●  从字符串中提取所有有效的ip地址？

●  给定一个字符串，和字符串列表，判断能否用字符串列表拼接生成字符串？

●  两个字符串的公共子串，动态规划？

4.1.2 树

4.1.2.1 二叉树

●  求解二叉树的最大高度，用一个非递归的做法

●  二叉树最长叶子结点路径

●  如何判断一棵树是另一棵树的子树？

●  如何判断一棵树是不是平衡二叉树？

●  开发一颗字典树，实现建树和搜索功能

●  有一个词库, 如何像纸制字典一样建立索引？ (B+树)

●  红黑树了解吗，介绍一下？

●  红黑树的查询复杂度？

●  二叉平衡查找树怎么实现平衡？

●  给出二叉树的前序和中序序列恢复二叉树的结构

●  不用递归遍历一棵树

●  二叉树层次遍历

●  给出二叉树的前序遍历和中序遍历结果，构建这棵树

●  描述一下二叉搜索树？

●  时间复杂度为O(n)、空间复杂度为O(k)的树的搜索方法

4.1.2.2 堆

●  什么是堆，构建堆的复杂度，堆找出第k大元素的复杂度？

●  描述一下堆排序、什么是大顶堆、什么是小顶堆

●  一个数组找 top-K，堆遍历数组。（k 最大）为啥用小顶堆。大顶堆小顶堆的区别？

4.1.3 排序

●  有哪些排序算法，他们的时间复杂度是多少

●  海量数据前k大

●  只给一分钟思考口述如何在时间复杂度最低的情况下找到无序数组中的第k个数。 （快排+剪枝）

●  一亿个浮点数，大小不超过2^32，均匀分布在值域内，求最快的排序方法；分析排序方法的复杂度（面试官全程提示）

●  手写快排

4.1.4 搜索

●  题目: 最少新建道路条数 已知有N个城市，城市编号1...N 已知M条路，每条路表示为(x_i, y_i), xy分别为城市编号 现在需要新建道路，确保任意两个城市之间，是可以通过一条或者多条道路联通 求解能够达到此目的的最小道路条数思路：BFS或者DFS应该都可以找到城市簇即可

**4.2 算法思想实战及智力题**

4.2.1 算法思想实战

●  一条无限长的x轴，假设你站在原点，可以向左走也可以向右走，第n次走n步或者-n步，给一个target，问走到target的最小次数

●  一个黑盒里有n个球，球分为三种颜色，RGB，乱序，每种颜色的球n/3个。这个黑盒有两个接口，一个接口可以获取第i个位置的球颜色，一个接口可以交换两个位置的球。通过这两个接口将球排序成RGBRGB这种的顺序。面试官先上让我不考虑时间复杂度说出一个解法，我说了一个O(n^2)的解法。然后他让我想想有没有更好的解法，我想了大概5分钟，恍然大悟，说了一个O(n)的解法

●  一个快递员送快递，有n个城市，怎么选择路线，使得走的路程最短。

●  给一个数，怎么快速求这个数的二进制中有多少个1？

●  实现一个数据结构，满足set(index,value),get(index),setall(value)的操作尽可能高效，使得get(index)返回正确的结果。

4.2.2 智力题

●  有一座桥，A通过需要25分钟，B通过需要20分钟，C通过需要10分钟，D通过需要5分钟，一个桥同时只能走两人，且快的人需要等慢的人到达才能一起到达。走桥时必须要有手电筒才能经过，且手电筒只有一个，问如何在60分钟内使得四人均通过？

●  长m，宽n的长方形，每长度为1画一条线，问可以找到多少正方形（m*n+(m-1)(n-1)+(m-2)(n-2)+...+(m-n+1)*1）？多少长方形（C_{m+1}^2  * C_{n+1}^2，即在m+1个点中随机选2个，在n+1个点中随机选2个）？

●  两个人 A,B；A 红绿色盲，B 声称自己不是红绿色盲，现在 B 两只手上分别有红绿两颗球。问 A 怎么分辨出 B 是不是红绿色盲。

●  你有两根均匀的绳子，和一个无限燃料的打火机。每根绳子若点燃一头可燃烧1分钟。问如何用这些东西准确测量出45秒的时间？

●  在面试官快要不耐烦的时候想出来了正解…绳A点燃两头，绳B点燃一头。在绳A燃尽时点燃绳B的另一头，两根绳子全部燃尽总耗时45秒。

●  8个小球称重；如果不知道次品轻重怎么办?

>本文来源：知乎

>作者：江大白

本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可，转载请附上原文出处链接和本声明。
本文链接地址：https://flyai.com/article/926

讨论

500字

表情

发送

删除确认

是否删除该条评论？

取消删除