Linux笔记关于同步文件

由于insight的数据需要每天同步,所以需要每天定时同步日志到集群的HDFS。所以写了个简单的脚本进行同步。脚本如下
前提是配置好ssh免密码


More.....

Linux服务器基本配置

当拿到一个服务器要开始搭建服务时候,首先应该确认一些设置。。。以免之后被坑。。。
我用的最多的服务器系统版本是Ubuntu 14.04。。以此为例来记录下常见操作

首先确定网络设置,包括IP、DNS、HOSTNAME、HOSTS配置
/etc/resolv.conf中设置dns,常见的202.106.46.151、8.8.8.8、114.114.114.114


More.....

ansible初步–批量升级CDH的jdk

由于要在集群上操作配置、并且即将搭建一个新的集群,所以我不想再像之前一样复制粘贴命令了!!会死人的。。。
so,看了下ansible,
环境:Ubuntu 14.04主机*6
六台服务器运行的命令相同
(前提:已经做完root密钥互信)
安装:
sudo apt-get install ansible

配置:
sudo /etc/ansible/hosts
添加进去所有


More.....

CDH5分布式运行任务的各种坑(更新ing)

# CDH搭建、配置(待填坑)

# 角色分配设计(待填坑)

# 参数调优(待填坑)

因为要把edX中Insight的数据导入到一个6节点集群中做运算,所以尝试分离pipline,远程执行分析任务。具体过程有时间另写文章分析(先挖个坑)=-=
今天发现luigi调度任务的时候把任务挂起后就不


More.....

CAS对接Open edX

Open edX的第三方登录是作为一个django app存在的,配置过程如下。

LMS配置过程

##安装CAS的Client、Mapper
进入edXapp环境,下载CAS的Client、Mapper


More.....

期末总结系列3——控制器

计组期末总结系列3——控制器

 

————————下面是一些开头的废话,可以不看————————

由于电脑坏了,又不能整天玩手机,舍友说计组不会,为了方便同学复习,同时总结一下整个学期学习的内容,所以决定写写一些重点的内容,另,本人水平有限,如果文中有错误还请


More.....