Ad Widget

**Kos** · 11-01-2017, 18:40

Я не очень понимаю, что Вы хотите сделать, что при этом делаете и что при этом получается.

У Вас скрипт, содержимое которого приведено, запускается на сервере как external script? Или на агенте через UserParameter? Чей кусок лога Вы привели?

В чём именно проблема? Скрипт запускается регурлярно (кстати, с каким интервалом?) и при этом в 98% случаев данные отдаёт успешно, а в 2% не возвращает ничего и срабатывает nodata()?

А что именно этот скрипт должен писать в файл, имя которого хранится в переменной $FILECACHE и кто этот файл должен очищать? Пока что, как я вижу, в него дописывается после каждого запуска curl-а полученный код ответа (переменная $RESP), при этом файл только растёт (идёт добавление в конец через ">>", файл нигде не очищается). Содержимое самой странички, которая скачивается curl-ом, идёт в другой файл (FILECACHE в текущей директории); возможно, это из-за опечатки (пропущенного знака доллара).

Кроме того, от меня ускользает смысл последней пары строк, где присваивается и затем проверяется значение переменной $param. Из файла вырезается параграф, где есть строка "http_code", затем оттуда удаляются пробелы, после чего удаляется вообще всё, кроме цифр, после чего оставшиеся строки ещё прогоняются через uniq... Наверняка это можно упростить, если понимать, чего хочется добиться. Но реальный результат - это то, что переменная получает значение "200<перевод_строки>301", из-за чего становится некорректным выражение "$((10#$param))". Это можно сэмулировать такими командами в bash-е:

Code:

~$ A='200
> 301'
~$ [[ ! -z $A ]] && echo $((10#$A)) || echo 0
bash: 10#200
301: syntax error in expression (error token is "301")
~$

Собственно, эти строки Вы и видите в логе (как результат работы скрипта).

**flustex** · 12-01-2017, 13:28

Понимаю, что не best practice

Спасибо за ответ. Итемы выполняются раз в минуту, дергают почти все поля с этой таблицы. Nodata настроена отлавливать потерю соединения по http_code ответу. Для того чтобы не нагружать пул лишними служебными запросами от забикса я втулил в скрипт алгоритм кеширования. его я списал почти 1 в 1 с темплейта для мониторинга апача. Логика задумывалась такая: если разница меньше чем TTLCACHE нужно просто грепнуть файл, иначе - взять курлом новую страницу, положить заместо старого и достать нужные итемы. флаг curl -o при попадании в if перезаписывает "$FiLECACHE", в stdout видим только 200, что есть http_code переменной "$RESP"
Работает через забикс агент и UserParameter.

Содержимое самой странички, которая скачивается curl-ом, идёт в другой файл (FILECACHE в текущей директории); возможно, это из-за опечатки (пропущенного знака доллара)

Верно, там ошибка копипаст при создании темы.

Кроме того, от меня ускользает смысл последней пары строк, где присваивается и затем проверяется значение переменной $param

param=`cat $FILECACHE | grep -P "^$METRIC:" | tr -s " " | sed 's/[^0-9]*//g' | uniq`
[[ ! -z $param ]] && echo $((10#$param)) || echo 0

Пришлось закостылить таким образом, потому что забикс по непонятным причинам до этого также возвращал:

Code:

200 200

Code:

200
200

и срабатывала отдельная проверка на bad response

Code:

{uteka.ua:php-fpm["http_code",{$UTEKA_MAIL}{$UTEKA_MAIL_PAGE}].last()}<>200

Вот "$FILECACHE"

Code:

pool:                 air_admin
process manager:      dynamic
start time:           04/Jan/2017:13:42:41 +0200
start since:          687979
accepted conn:        24323
listen queue:         0
max listen queue:     0
listen queue len:     0
idle processes:       2
active processes:     1
total processes:      3
max active processes: 2
max children reached: 0
slow requests:        0
http_code: 200

**Kos** · 12-01-2017, 17:23

Originally posted by flustex

Верно, там ошибка копипаст при создании темы.

OK, тогда сначала должен (пере)создаваться файл, а следующей командой в него добавляться строчка "http_code: " с кодом.

Originally posted by flustex

Пришлось закостылить таким образом, потому что забикс по непонятным причинам до этого также возвращал:

Code:

200 200

Code:

200
200

А вот это уже непонятно. Если в файле строчка "http_code: " только одна, то откуда тогда берётся второе значение? Может ли быть такое, что curl получает ответ с кодом 301 (перенаправление), делает повторый запрос (по тому адресу, куда перенаправили) и записывает в файл результаты обоих запросов?
В любом случае, строка "http_code: " должна же быть только одна (она дописывается самим скриптом уже после того как curl отработал).

По-любому, я бы "навороченную" строку упростил бы.
Нагляднее всего, наверное, вариант с awk:

Code:

param=`awk '/^http_code:/ {print $2}' $FILECACHE`

Но эффективнее вместо "тяжёлого" awk вызывать более "лёгкий" sed:

Code:

param=`sed -n '/^http_code:/s/[^0-9]*//p' $FILECACHE`

А в последней строчке зачем такая конструкция с двойными скобками (как квадратными, так и круглыми)? Вот это не будет ли давать такой же результат, только нагляднее?

Code:

[ "$param" ] && echo $param || echo 0

А по теме есть ещё одна мысль. Запуск проверок через агента (в том числе скриптов, запускаемых через UserParameter) должно завершаться в отведённый тайм-аут, который по умолчанию довольно короткий (3-4 секунды, в зависимости от версии). Если Ваш скрипт (в первую очередь, вызов curl) иногда в этот тайм-аут не укладывается, то будут пропуски (и, как следствие, срабатывание триггера по условию "nodata()"). Может, это как раз Ваш случай? Это довольно легко выяснить, если дополнить Ваш bash-скрипт парой команд, которые будут выводить время работы curl-а в отдельный лог примерно таким образом (результат - в наносекундах):

Code:

T1=$(date '+%s%N')
...прежний вызов curl-а...
echo $(date '+%Y-%m-%d %T') $(( $(date '+%s%N') - $T1 )) >>/tmp/my_script.log

**flustex** · 14-01-2017, 19:55

К таким же идеям пришел я и сам.

bash скрипт отрабатывает не корректно потому что я не умею писать на bash
отдельно таймауты
отдельно алгоритм кеширования
процесс php-fpm упирается в что-то
процесс агента упирается в что-то

В связи с чем переписал скрипт на пайтоне, добавил дисковери скрипт и написал новый тепмлейт. В баш скрипте карлу таймауты были заданы (2 сек). Как мне показалось, алгоритм начал отрабатывать стабильнее, но, увы, нодата теперь приходит синхронно по нескольким пулам. Это в свою очередь склоняет меня уже поискать проблему в пхп. А еще нодата триггеру поднял значение с 80 секунд до 90.
Для общественности выложу готовые решения для мониторинга отдельно нескольких пулов в атач. Какие еще таймауты могут быть причиной? Может выложить это дело на zabbix templates wiki https://www.zabbix.org/wiki/Zabbix_Templates

?

Собственно новый код вот:

Code:

#!/usr/bin/python
import json

php_fpm_pools = {
'example'  : 'http://example/php-fpm-status' ,
'mail'      : 'http://example/mail-php-fpm-status' ,
'upload'    : 'http://upload.example/php-fpm-status' ,
'admin'     : 'http://admin.example/php-fpm-status' ,
}

if __name__ == "__main__" :
    poolname = [{ "{#POOLNAME}" : pool, "{#POOLADDR}" : php_fpm_pools[pool] } for pool in php_fpm_pools]
    print (json.dumps({"data" : poolname}))

Code:

#!/usr/bin/env python
import requests
import sys
import os.path
import time
import json
import hashlib

cache_delta     = 55
cache_file      = '/var/lib/zabbix/php-fpm/scripts/my.txt_' + hashlib.sha224(sys.argv[2]).hexdigest()

def write_cache():
        data = get_status()
        with open(cache_file, 'w') as f:
                json.dump((data), f)
        
def read_cache(key):
        with open(cache_file, 'r') as f:
                try:
                        data = json.load(f)
                except ValueError:
                        data = {}
                return data[key]
            
def touch(fname, times=None):
    with open(fname, 'a'):
        os.utime(fname, times)
            
def check_cache(key):                                                                                                                                                   
        if not os.path.isfile(cache_file):                                                                                                                              
                touch(cache_file)                                                                                                                                       
        try:                                                                                                                                                            
                cache_time = os.path.getctime(cache_file)
                now_time = time.time()
                if now_time - cache_time > cache_delta or os.path.getsize(cache_file) == 0:
                        write_cache()
        except OSError as err:
                        print "Error: {0}".format(err)
        finally:
                        return read_cache(key)

params = {}

def get_status():
    url = sys.argv[2] + '?json'
    r = requests.post(url=url,timeout=2.001)
    data = eval(r.text)
    data['http_code'] = r.status_code
    return data

if __name__ == '__main__':
    if len(sys.argv) != 3:
        print "Usage: %s <statuspage> <key>" % sys.argv[0]
    else:
        if '-' in str(sys.argv[1]):
            key = str(sys.argv[1]).replace('-', ' ')
        else:
            key = str(sys.argv[1])
        print check_cache(key)

Attached Files

zbx_template_php_multiple_pool.tar.gz (60.0 KB, 84 views)

**Kos** · 23-01-2017, 12:38

С Пайтоном не помогу, извините - не силён.

С Башевским скриптом, вроде бы, всё было понятно, кроме одного: появления дублированных записей с кодом от curl-а.

В баш скрипте карлу таймауты были заданы (2 сек).

Точно. Так, может, это оно и есть?
Может ли быть такое, что при завершении curl-а по тайм-ауту он не перезаписывает выходной файл? Т.е. содержимое файла $FILECACHE остаётся от предыдущего запуска, после чего командой

Code:

echo "http_code: $RESP" >> $FILECACHE

к нему добавляется новая строка (уже вторая)?
Кстати, а какой именно код в этом случае вернёт curl?

**flustex** · 25-01-2017, 15:46

Проблема решена

Проблема, как выяснилось, в скорости чтения/записи винта. На сервере установлен зеркальный рейд и один с винтов начал деградировать. Хотя смарт показывает Ок. Разобрал рейд - сразу песня, полет ровный. Заказали у хетцнер замену винта, заменили, собрали рейд. Замена на новый винт - услуга платная. Поставили они, кароче, винт б.у., чутка лучше, но проблема осталась. Будем снова менять винт. Оба винта - Crucial_CT256MX100SSD1.
В этом плане nodata триггер очень помог.

Ad Widget

Спам nodata от php-fpm статус страниц

Спам nodata от php-fpm статус страниц

Comment

Comment

Comment

Comment

Comment

Comment