Cpu0  :  0.0%us,100.0%sy,  0.0%ni,  0.0%id,  0.0%wa,  0.0%hi,  0.0%si,  0.0%st

原來的 code 長的像是這樣

#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 


#ifdef USE_SEM
sem_t g_timer_sem_hdlr;
#endif


void  sig_timer_hanler(void)
{
#ifdef USE_SEM
	sem_post(&g_timer_sem_hdlr);
#endif
	return ;
}

void main(){

unsigned int period=1000;
	struct itimerval it_val;	/* for setting itimer */
	int i=0;
#ifdef USE_SEM
	sem_init(&g_timer_sem_hdlr,1,0);
#endif

	if (signal(SIGALRM, (void (*)(int)) sig_timer_hanler) == SIG_ERR)
	{
		perror("Unable to catch SIGALRM");
		return ;
	}
	it_val.it_value.tv_sec =  0;
	it_val.it_value.tv_usec = period;
	it_val.it_interval = it_val.it_value;
	if (setitimer(ITIMER_REAL, &it_val, NULL) == -1)
	{
		perror("error calling setitimer()");
		return ;
	}
	printf("test started.\n");
	while(1){
#ifdef USE_SEM
		sem_wait(&g_timer_sem_hdlr);
#else
		usleep(1000);
#endif
		if((i%1000)==0) printf("%s: hello, i=%d\n",__func__,i);
		i++;
	}
	printf("exited.\n");
	return ;
}

如果用 perf 下去看, 大概長得像這樣,  kernel space 的 wait 不是真正的 wait

   
66.86%  swapper  [kernel.kallsyms]  [k] r4k_wait
        |
        --- r4k_wait
        cpu_idle

32.21%    test  test               [.] main
0.12%     test  [kernel.kallsyms]  [k] finish_task_switch
        |
        --- finish_task_switch
        |
        |--54.54%-- __schedule
        |          schedule
        |          |
        |          |--83.34%-- work_resched
        |          |
        |           [--16.66%-- schedule_timeout
        |                     do_sigtimedwait
        |                     SyS_rt_sigtimedwait
        |                     handle_sys64
        |
        --45.46%-- schedule_tail

打開 kernel spin lock stat 也看不出所以然來(註: 上面是 100% sys cpu 的, 下面是正常的

spinlock

所以這就讓人很困擾, 到底出了什麼問題
做過一些測試, 例如:
Enable Realtime option , 改用 tickless or 1000HZ tick , 檢查 spin lock deadlock ,
叫出 Sysrq 出來看(看不出來有什麼特別的)
不過仍然會發生, 百思不得其解.

除了自己的 Embedded System , 連 Ubuntu PC 也可以複製的出來,
所以這就排除了 SoC vendor 的問題, 理論上我們的應用不是特別奇怪.
所以心中訥悶, 這世界上這麼多人只有我們有問題嗎?

關於這個問題的人討論的很少, 所以可能要多翻一下 Google , 多濾一些關鍵字.

直到翻到這個網站, WHY YOU SHOULD AVOID USING SIGALRM FOR TIMER
他的說法是

The problem occurs when the signal function is triggered just before we call setitimer().
The signal handler blocks, as the mutex is currently being held by do_timer_bookkeeping() and this is the deadlock.

不過我們沒有 deadlock , 但是他的發想很好, 仍然可以參考他講的去做

To fix it, I removed all the SIGALRM code and replaced it with setitimer.
I set the previous SIGALRM handler as the thread that will be spawned whenever the timer expired.

看起來是好主義

所以我就用 timer_create 改寫了一下這隻程式,
好的事情是, 情況有改善, 不會在 10 分鐘就發生,
壞的事情是, 仍然會發生. 雖然極難複製這個問題, 但是會發生就是很討厭, 會留一個尾巴沒有辦法收尾.

所以持續在看有沒有其他的解決方案.
(timer_create 的寫法可以參考 Linux timer)

中間有翻到 pthread 的 sigmask 用 thread 處理 SIGALRM 訊號,
不過多想一下, 個人認為應該也會踏到同樣的問題, 所以做完功課之後, 這個方式晚一點再說.

又翻到這一篇setitimer, SIGALRM & multithread process (linux, c) 其中有說到,

In the topic, Andi Kleen (Intel) recommends to switch to “POSIX timers (timer_create)“; and in ML thread Davide Libenzi suggests use of timerfd (timerfd_create, timerfd_settime) on non-ancient Linuxes.

答案就呼之欲出了, 要改用 timerfd 改寫我目前的 timer_create.
不過 timerfd 是 trigger fd 用的, 不會呼叫 call back function, 所以要配合 epoll 用, 而且 epoll 是 IO event trigger , 所以要配合 pthread 去處理 epoll .

程式改寫完的結果, 看起來效能比 SIGALRM / timer_create 好. 但是複雜許多, 有抄參考別人的 sample code ,
不過考量這些 code 要處理 multiple fd, 而我目地只是取代原來的 SIGALRM, 所以又再更精簡化, 一般會更複雜的.

程式碼

#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 
#include 


sem_t g_timer_sem_hdlr;
int timerfd;
pthread_t sig_thread;

#define MAX_EVENT 4

static int      epfd = -1;
static struct   epoll_event events ;
static int      sig_timer;
static struct itimerspec        its;
static struct epoll_event      ev;


void *sig_epoll_wait( void *ptr){
    int numEvent=0;
    unsigned long value;
    struct event_record *pevent = NULL;
    int i;

    while(1){
        numEvent = epoll_wait( epfd, &events,1 , -1 );

        for( i=0; i < numEvent ; i++){

            if( epoll_ctl( epfd, EPOLL_CTL_DEL, timerfd, &ev) == -1)
                perror("[1] epoll_ctl del");

            if(timerfd_settime( timerfd, 0, &its, NULL ) == -1 )
                perror("[1] timerfd_settime");

            if( epoll_ctl( epfd, EPOLL_CTL_ADD, timerfd, &ev) == -1)
                perror("[1] epoll_ctl add");
            sem_post(&g_timer_sem_hdlr);
        }
    }

    return NULL;
}

void create_timer(int sig, int msec)
{

    timerfd = timerfd_create(CLOCK_MONOTONIC, 0);
    if( timerfd == -1)
        perror("timerfd_create");

    its.it_value.tv_sec = 0;
    its.it_value.tv_nsec = msec * 1000000;
    its.it_interval.tv_sec = its.it_value.tv_sec;
    its.it_interval.tv_nsec = its.it_value.tv_nsec;

    if ( timerfd_settime( timerfd, 0, &its, NULL ) == -1 )
        perror( "timerfd_settime" );

    // Create epoll
    epfd = epoll_create( 1 );
    if ( epfd == -1 )
        perror(" epoll_create ");

    ev.data.ptr = &sig_timer;
    ev.events   = EPOLLIN | EPOLLET;

    // enable epoll

    if( epoll_ctl( epfd, EPOLL_CTL_ADD, timerfd, &ev) == -1)
        perror("[0] epoll_ctl");

    // Create Thread
    pthread_create(&sig_thread, NULL , sig_epoll_wait , NULL);

}

void main(){
    int i=0;
    sem_init(&g_timer_sem_hdlr,1,0);

    printf("Create Timer \n");
    create_timer(5566, 5);  // ms
    while(1){
        sem_wait(&g_timer_sem_hdlr);
        if((i%10000)==0) printf("%s: hello, i=%d\n",__func__,i);
        i++;
    }
    printf("exited.\n");
    return ;
}

其他有些資訊是提到 top 計算不準的問題

https://www.kernel.org/doc/Documentation/cpu-load.txt
https://lkml.org/lkml/2007/2/12/6

ref.

• Linux FD Handler 以及 Timer 機制
• ssebot-samples/sample-timerfd-epoll.c : 這 code 寫的不錯, 主要是學習這個的.

The post SIGALARM / timer_create 造成 CPU sys 100% 的問題 appeared first on richliu's blog.