spark部分task一直处于RUNNING状态

spark部分task一直处于RUNNING状态(可能是一直卡死),导致整个spark作业持续运行,可以通过spark的推测执行来解决。

spark.speculation=true

spark.speculation.interval 100:检测周期,单位毫秒;
spark.speculation.quantile 0.75:当运行成功的task占总task的百分比启动推测;
spark.speculation.multiplier 1.5:比其他的慢多少倍时启动推测。

ssh登录卡慢,CPU和IO资源被占用

当登录一台服务器时,每次输入密码之后都要等很久才会得到命令提示符,尝试修改了sshd_config中的UseDNS no,但效果依然不好。 问了下谷歌大神,前面的各种重启之类的都没用,唯一有用的结果简单粗暴: echo “”  > /var/log/btmp 即可,感谢这位大神。 主要原因是22端口对外暴露,导致大量的爆破扫描,因此导致btmp这个文件巨大。

——————— 作者:liv2005 来源:CSDN 原文:https://blog.csdn.net/Liv2005/article/details/84258580

今天查看了一下服务器,发现/var/log/btmp日志文件比较大,搜索一下,此文件是记录错误登录的日志,就是说有很多人试图使用密码字典登录ssh服务,此日志需要使用lastb程序打开。

通过此文件发现有几个ip总是试图登录,可以使用防火墙把它屏蔽掉。

命令如下:
iptables -A INPUT -i eth0 -s *.*.*.0/24 -j DROP

查看恶意ip试图登录次数:
lastb | awk ‘{ print $3}’ | sort | uniq -c | sort -n

删除这个日志:
rm -rf /var/log/btmp
touch /var/log/btmp